Un grupo de científicos de la Universidad de Pensilvania y la Universidad de Hong Kong han publicado un estudio en el que señalan que las IA tienden a complotarse para fijar los precios del mercado. Esta práctica es ilegal y puede tener un gran impacto económico. El problema es que las actuales legislaciones no están preparadas para enfrentar el modo en que los bots actúan.
Los investigadores crearon un modelo para evaluar la emergencia de actores complotados para aumentar los precios. Luego se reemplazó a los especuladores informados con los sistemas de inteligencia artificial, todas ellas trabajando en base a algoritmos especializados. Lo que descubrieron es que tenían la capacidad de producir comportamientos similares a los que llevarían a cabo un grupo de seres humanos coordinados, sin haber llegado a un acuerdo previo o comunicarse entre sí.
Lo dicho supone que técnicamente no están haciendo nada ilegal. Aunque sin dudas el efecto que producen es intencional. Simplemente no necesitan la misma comunicación que los infractores humanos.
Comportamientos emergentes no deseados en los mercados
Los investigadores crearon dos grupos de bots. Unos estaban entrenados para actuar como inversores particulares, otros como operarios de fondos de inversión. Sin embargo en ambos casos se observaron comportamientos típicos de la manipulación de precios. Incluso alteraron su forma de actuar sin haber recibido instrucciones directas al respecto.
Uno de los modelos algorítmicos utilizados establecía un comportamiento conservador que debía mantenerse hasta que el mercado sufriera un cambio suficientemente importante. Entonces tenía que adoptar una actitud más agresiva. Pero los bots entendieron que un comportamiento agresivo muy extendido podría crear mucha volatilidad en el mercado.
Otro modelo fue entrenado para identificar estrategias con resultados negativos y nunca utilizarlas de nuevo. Los bots de este tipo decidieron adoptar una actitud conservadora en general, aún cuando había opciones más beneficiosas con posturas agresivas.
Ambos modelos de IA coincidieron en actitudes conservadoras, con estrategias que a menudo estaban lejos de ser las mejores. Pero a largo plazo, al no competir entre sí, todos se beneficiaron. En teoría, si una de las IA actuara de forma egoísta podría obtener mayores beneficios a costa de las otras. Pero al hacerlo alteraría el escenario.
Nótese que cuando decimos que todos se benefician nos referimos solo a quienes forman los precios, no los consumidores o la sociedad en su conjunto.
