MIE, 1 / FEB / 2023

OpenAI ofrece herramienta para detectar textos creados por una IA, pero no es muy efectiva

El clasificador tiene, según la empresa, una tasa de éxito del 26%. No debe ser utilizado como método único para determinar quien produjo un escrito.

OpenAI, la desarrolladora de ChatGPT, ha lanzado una herramienta capaz de distinguir entre un texto creado por seres humanos y otro producido por una IA. Según la compañía el clasificador tiene como objetivo ayudar a mitigar los problemas producidos por los textos generados de forma automática y presentados como escritos por seres humanos.

El único problema de la herramienta es que tiene un nivel de éxito del 26%.

Limitaciones

Además de su escasa efectividad el programa tiene varias limitaciones:

Necesita de un texto de por lo menos 1000 caracteres.

No es capaz de detectar el plagio.

Tiende a equivocarse cuando examina textos escritos por niños.

Está limitado al inglés.

Un complemento

Lo dicho podría hacernos pensar que este desarrollo es prácticamente inútil. Sin embargo, OpenAI argumenta que la idea es utilizar la herramienta en combinación con otros métodos. Nunca debe implementarse como una única instancia de decisión.

Un aspecto a tener en cuenta es que OpenAI debe ser muy cuidadosa con el nivel de seguridad de sus resultados. Lo único que le falta a la empresa son estudiantes injustamente acusados de hacer trampa por culpa del clasificador. Cuando el sistema tiene una certeza del 90% apunta que es posible (possibly) que un texto haya sido generado por una IA. Cuando tiene una certeza del 98% o superior señala que es probable (likely).

Una respuesta temprana a un problema de imagen

El clasificador está en una etapa temprana de desarrollo. La idea de los desarrolladores es ver si es útil y en caso de que así sea mejorarlo en el futuro.

Por el momento parece que esta herramienta es menos una opción práctica que una respuesta a los reclamos de la opinión pública. Los problemas generados por algunos de los usos de la tecnología de programas como ChatGPT han llevado a varias organizaciones educativas a prohibir su uso en sus instalaciones y cambiar métodos de evaluación.

Universidades australianas en alerta por el uso de IA para ensayos académicos

¡Comparte esta noticia!