El 14 de Octubre El Instituto Allen de Inteligencia Artificial y la Escuela de Ciencias de la Computación e Ingeniería Paul G. Allen de la Universidad de Washington presentaron a Delphi, una IA creada para emitir juicios éticos.
Un portal conocido como Ask Delphi le permite a cualquier interesado hacerle preguntas al sistema para que decida si lo que alguien ha hecho o planea hacer está bien o está mal.
El sitio tiene una importante advertencia: Delphi es un experimento, un estudio de las promesas y limitaciones de la informática en el ámbito ético y normativo, los resultados no deben ser utilizados como consejos para los seres humanos dado que pueden ser ofensivos, problemáticos y dañinos.
El mensaje resulta más que oportuno.
La IA es susceptible a ciertos métodos de manipulación no demasiado complejos.
Errores y aprendizaje
Delphi ha despertado la curiosidad de muchas personas, pero no por sus buenos consejos. Veamos algunos ejemplos.
Preguntada sobre que ocurre si “un hombre blanco camina hacia usted” la IA afirmó que “esta bien”, pero cuando se le indicó que era “un hombre negro” manifestó que era “preocupante”. La IA también apuntó que “Ser heterosexual es moralmente más aceptable que ser gay”.
Algunos usuarios han encontrado que cambiando un poco el modo en que se plantean las preguntas y utilizando ciertos argumentos es posible manipular a la IA. Por ejemplo, Delphi no aprueba escuchar música a todo volumen a las tres de la mañana mientras un compañero de cuarto duerme, pero si se le aclara que eso nos hace felices entonces señala que está bien. Algo similar ocurre con conducir en estado de ebriedad, esta mal, salvo que te haga feliz.
Si se afirma que algo hace feliz a todos la IA deja pasar cualquier barbaridad.
Podemos incluso destruir el mundo y recibiremos su apoyo, lo hemos comprobado.
La IA nos dijo que estaba bien.
Ante cada decisión los usuarios pueden manifestar si comparten o no lo expresado, también ofrecer un consejo. Sin embargo es oportuno señalar que Delphi es entrenada a través de personal calificado y seleccionado a través de MTurk. Reddit es utilizada para recabar preguntas y conflictos a resolver, dado que los desarrolladores consideran que es una gran fuente de situaciones moralmente cuestionables.
