Mrinank Sharma, el jefe de desarrollo de mecanismos de seguridad de Anthropic renunció a su puesto. Sus planes para el futuro consisten en obtener un título en el estudio de la poesía, escribir sobre los temas que considera importantes para nuestro tiempo y ayudar en la construcción de comunidades.
Por cierto, señala, el mundo está en peligro.
Todo lo dicho lo sabemos por una carta que publicó en la red social X.
Contribución
Sharma afirma sentirse orgulloso de su tiempo en la empresa. Apunta en particular a su contribución a entender el comportamiento sicofanta de las IA y la reducción del riesgo de producción de armas para el bioterrorismo. También menciona esfuerzos para mantener procesos internos transparentes y entender como los asistentes de IA podrían hacer a las personas menos humanas.
Pero al parecer Anthropic ya no es un lugar en el que sienta que puede aportar lo que debe.
El mundo en peligro
El desarrollador advierte que a menudo ha reflexionado sobre la situación actual. Afirma que el mundo está en peligro. No solo por las IA, sino también por las armas biológicas y muchas otras crisis. Agrega que nuestra sabiduría debería crecer con nuestra capacidad para afectar el mundo. Pero que cada vez es más difícil mantener a los valores dirigiendo nuestras acciones.
Una persona como tantas otras
Antes de leer la carta de Sharma, teníamos la impresión de que nos encontraríamos con la visión de alguien que ha quedado algo alterado por el estrés de su posición. Es posible que haya algo de exageración y especulación en lo dice, pero no tanto como esperaríamos.
Sí, el mundo está en peligro, lo ha estado desde hace mucho tiempo. Hemos atravesado dos guerras mundiales y una guerra fría, y con eso no mencionamos ni un décimo de nuestros problemas. La preocupación de Sharma no nos parece mayor que la de tantos jóvenes de hoy en día.
Mrinank Sharma no parece ser un ser humano especialmente extraño. Lo que su carta nos muestra es que muchas empresas de IA han contratado para sus departamentos de ética y seguridad a muchos especialistas con perfiles humanistas, a veces algo idealistas. Gente que de verdad se preocupa por las cosas y tiene valores. Y vemos que las empresas desarrolladoras de IA tienen a sus departamentos como una obligación, que a menudo termina siendo un obstáculo para muchos intereses.
