OpenAi había exhibido las nuevas habilidades de su generador de imágenes, Sora, con mucho orgullo. Y tenía motivos para hacerlo, la herramienta ofrece resultados destacables. Sin embargo, la política de la empresa sobre lo que podía o no podía crear el sistema había sido algo más relajada que en otras ocasiones. Los desarrolladores estaban seguros de haber tomado todas las medidas de seguridad necesarias.
Los problemas en el horizonte
En su momento comentamos que había dos problemas que la compañía debía enfrentar, uno de ellos era el uso de material bajo derecho de copia. El otro los videos en los que se utilizaba la imagen de una persona para producir registros falsos. Como había sido el caso de Sam Altman, CEO de la compañía, robando una tienda.
El control de la imagen
Este jueves la compañía ha tenido que dar pausa a la posibilidad de producir videos utilizando la imagen del activista por los derechos civiles Martin Luther King. La decisión fue tomada en respuesta a un pedido de los representantes de la familia. El pedido fue motivado por una gran cantidad de producciones que le faltaban el respeto a su figura.
OpenAI señaló que a pesar de ser grandes defensores de la libertad de expresión en relación a las figuras históricas, cree que dichas personas y sus familias deben tener un control final sobre como su imagen será utilizada. En tal sentido, familiares y representantes pueden pedir que la imagen no sea utilizada en las producciones de Sora.
Malas prácticas
El Washington Post reportó que había videos creados con Sora en los que King aparecía haciendo sonidos como los de un mono. Lo que da la pauta de hasta que punto puede llegar el mal gusto de algunos usuarios. Es Internet no sorprende, pero por eso mismo OpenAI no puede fingir que lo que ocurre estaba fuera de sus cálculos.
La hija de Martin Luther King publicó un mensaje en Instagram pidiendo que la gente dejara de mandarle videos con la imagen de su padre. Algo similar tuvo que hacer la hija del fallecido Robin Williams. Es poco probable que estos sean los únicos casos de mal uso de la herramienta.
