El jueves Anthropic anunció una serie de actualizaciones para su política de uso. La compañía aclara que la mayoría de los cambios tienen como intención hacer más claras reglas ya existentes. Sin embargo, también hay algunos puntos curiosos.
Aclaraciones
El documento de uso ahora tiene una sección específica para el uso de los modelos para actividades engañosas. Se han refinado las indicaciones sobre las restricciones para el uso en el ámbito de la política. Se ha enfatizado la prohibición a utilizar Claude para engañar a los votantes. También se ha aclarado todo lo que concierne a la producción de armas. Claude no puede ser utilizado ni para el diseño de armas, ni para elaborar el software que las maneja. Nada de manejo de drones de guerra. Otras aclaraciones abarcan cuestiones de sistemas de vigilancia y acción policial.
Finalmente la empresa ha señalado que en los casos en los que la herramienta sea empleada para tareas de alto riesgo, debe haber un ser humano en el proceso.
No maltrates a nuestra IA
Ahora bien, lo más llamativo de la actualización es que la compañía señala que el comportamiento innecesariamente abusivo y cruel hacia los modelos queda prohibido. Aclara que la intención es enfocarse en los casos extremos donde el usuario repite una y otra vez sus ofensas sin un propósito claro.
Los enojos comunes por la frustración del momento están permitidos. Otros casos que se consideran legítimos son los ejercicios creativos, las pruebas y la investigación realizada con los modelos.
Anthropic señala que esta nueva restricción extiende una medida anterior que le permitía a los modelos terminar conversaciones extrañas que contenían comportamiento abusivo persistente de parte de los usuarios. Tal capacidad se añadió en agosto de 2025.
No es por piedad
Es poco probable que Anthropic crea que Claude sufre cuando se la insulta. No habría excepciones a la regla si esto fuera así. Las limitaciones parecen estar orientadas a cortar un comportamiento del usuario que podría en algún momento sobrepasar el mundo digital. El hecho de que las normas sean parte de la sección de bienestar apunta en esa dirección.
También podría existir el riesgo de que el modelo termine por imitar el comportamiento del usuario.
