El estudio legal Sullivan & Cromwell, uno de los más prestigiosos de Wall Street, ha informado a la corte que en una reciente presentación incluyó varios errores producto de las alucinaciones de un sistema de inteligencia artificial.
No es la primera vez que sucede, ni la segunda, ni la tercera, ni la décima. Y pasado cierto punto ya no es posible echarle la culpa a la IA, son firmas legales utilizando de forma irresponsable una herramienta que no está lista para el trabajo. O al menos no puede emplearse como la emplean.
Error humano
La carta al juez federal de Nueva York, Martin Glenn, detalla una serie de errores que incluyen citaciones incorrectas de la ley y casos legales. Sullivan & Cromwell no es un pequeño grupo de abogados, concentra más de 900 profesionales especializados en el ámbito corporativo. Resulta llamativo que nadie se haya dado cuenta de que algo andaba mal. Los errores fueron detectados por la firma Boies Schiller Flexner, que trabajaba en el mismo caso.
Buenas prácticas ignoradas
S&C señala que mantiene políticas y entrenamiento adecuado para el manejo de las herramientas de inteligencia artificial en asuntos legales. Esto incluye mecanismos destinados a captar posible errores. La firma admite que no se siguieron las buenas prácticas durante el proceso de revisión secundario y por eso no se identificaron las citaciones erróneas generadas por la IA.
Una versión corregida de la presentación ya ha sido enviada a la corte.
Un temor de fondo
Dado que en un caso legal hay varias partes y un juez a cargo, existen varias instancias de revisión e intereses encontrados que someten a los textos a nuevas instancias de examen. Sin embargo, dada la cantidad de casos en los que se ha detectado el mal uso de la IA, nos queda un duda: ¿Habrá alguno que se haya cerrado y contenga un error no advertido por ninguna de las partes?
