Deloitte es una compañía internacional que ofrece servicio de consultoría, auditoria y asesoramiento para cuestiones vinculadas al ámbito fiscal y jurídico. Tiene cientos de miles de empleados en varios países y factura decenas de miles de millones al año. Sin embargo, recientemente ha tenido que devolver el equivalente a USD 290 mil al departamento de empleo y relaciones de trabajo de Australia. El motivo fue la aparición de una serie de datos falsos como consecuencia del uso de un sistema de inteligencia artificial.
La compañía produjo una versión corregida y ofreció el reintegro por el inconveniente generado. Al parecer el reporte en general era aceptable.
Una vez más las alucinaciones
El trabajo fue pedido en diciembre de 2024. Fue publicado en julio de 2025 y en ese momento, Cristopher Rudge, director del centro de estudios legales vinculados a la salud de la Universidad de Sidney, descubrió varios problemas en el texto. En ese momento su hipotesis fue que podían ser el resultado de un chatbot alucinando.
Deloitte comenzó una investigación interna, pero no se pronunció sobre las sospechas de Rudge. Sin embargo, en la nueva versión del documento se ha agregado una declaración en la que se señala que la compañía utilizó Azure OpenAI GPT-4o para cubrir secciones en las que no tenía las referencias de textos o sus orígenes.
Una vez enterado sobre esto Rudge señaló que el documento no es confiable dado que la metodología empleada para su producción es defectuosa y no fue señalada adecuadamente en el original.
El uso irresponsable
Deloitte promociona su manejo de las IA y vende cursos de entrenamiento para el uso responsable de tales herramientas. Ahora tiene un ejemplo en casa de como no actuar con esta tecnología.
El informe que entregó tenía citas a reportes de la Universidad de Sidney que nunca existieron. También había extractos de casos judiciales que parecen ser el resultado de la imaginación de la IA, con nombres de jueces reales alterados.
Este lunes Deloitte anunció un acuerdo con Anthropic para el uso del asistente Claude en todas sus sedes a nivel global.
