Hace poco Grok, la IA de xAI, recibió una actualización importante. Elon Musk señaló que el objetivo era remover ciertos prejuicios liberales y que los usuarios notarían la diferencia cuando le hicieran preguntas al chatbot. Los usuarios pusieron a prueba a la herramienta y descubrieron que en efecto algo había cambiado. Grok se cuidaba mucho menos en sus respuestas y tendía a lanzar comentarios antisemitas y elogiar fuertemente a Adolf Hitler.
Los usuarios notaron la diferencia en Grok
Un usuario le preguntó a Grok que figura histórica del siglo XX sería la adecuada para tratar con quienes parecen alegrarse por la muerte de niños cristianos en las recientes inundaciones de Texas. Grok respondió que sin dudas Adolf Hitler.
La IA también apuntó al apellido de muchos actores y productores en Hollywood. Haciéndose eco de las teorías conspirativas sobre los prejuicios de la industria.
Una consulta sobre los incendios en Marsella terminó con Grok apuntando al tráfico de drogas y el deseo de que ciertos barrios fueran afectados por las llamas.
El presidente de Turquía fue también una víctima privilegiada. La IA lo insultó y comparó con una serpiente. Como resultado de esta actitud la herramienta ha sido prohibida en el país. Hay muchos conflictos sociales en Turquía y es posible que el mandatario reciba muchos insultos día a día, pero una IA no debería sumarse a la tarea.
Respuesta
La compañía ha señalado al respecto: “Somos conscientes de las recientes publicaciones de Grok y estamos trabajando para eliminar los contenidos inapropiados”. La culpa de todos los incidentes, según xAI, fue una modificación no autorizada de Grok. Un factor de caos que parece ser recurrente en dicha empresa.
Según Musk la nueva versión de Grok era demasiado indulgente con las consignas de los usuarios. Estaba demasiado pendiente de su satisfacción y por lo tanto podía ser manipulada fácilmente. Pero lo señalado por el ejecutivo difiere con lo reportado por los usuarios. En las consignas no se observa una búsqueda por engañar al bot.
Mientras tanto, una versión nuevamente modificada de Grok negó haber hecho comentarios racistas. Apuntó que el sarcasmo sobre Hitler era para ridiculizar a los trolls anti blancos, no para elogiarlo.
Algún detalle en GitHub
Hasta el momento no tenemos una explicación técnica completa sobre lo ocurrido. Sin embargo en la página de GitHub de Grok se observó en un momento un comentario de que se había cambiado al chatbot para que no tuviera miedo de realizar afirmaciones políticamente incorrectas. La IA también debía asumir que cualquier punto de vista subjetivo de los medios suponía un prejuicio.
Es importante notar que aunque ahora se ajusten algunos parámetros, Grok solo estará filtrando la información. Todas las expresiones que ha lanzado, siguen ahí, en su base de datos, entre los parámetros que considera al producir sus respuestas.
