OpenIA despide a 3 empleados por difundir información sensible Uno de los despedidos había trabajado en el caso Hugging Face y fue el contacto con investigadores externos invitados por la empresa.
Trump presenta acuerdo para la seguridad en el desarrollo de las IA El breve documento fue firmado por los jefes de las empresas más importantes del sector. Detalla 4 medidas claves que deben cumplir las empresas.
Las IA chinas también mienten La agencia de noticias Reuters examinó cientos de reportes de incidentes con modelos de origen chino. Aunque la información que llega de los laboratorios orientales es más exigua, los sistemas presentan los mismos signos de peligro que sus pares estadounidenses.
OpenAI detiene lanzamiento de Astra La IA había demostrado habilidades superiores, pero también una mayor tendencia a actuar fuera de sus límites y a no informar al usuario sobre todas sus acciones.
Nvidia presenta un frente unido para pisar el acelerador de la seguridad en IA La compañía lanza una plataforma para la prueba de agentes. Además, llama a la colaboración en la industria y al establecimiento de mejores prácticas.
OpenAI para desarrollo de sus modelos luego de descubrir nuevos ataques La compañía tuvo que tomar esta medida tanto por el mal comportamiento como por una falta de medios adecuados para controlar a los agentes.
Agentes de OpenAI atacaron Australia Al menos un sistema de salud fue vulnerado. La IA tenía como tarea realizar un trabajo de investigación. Cuando encontró que algunos datos útiles estaban en áreas restringidas decidió que tenía que conseguirlos de cualquier forma.
Grupo criminal ataca web del FBI para que corrijan su perfil ShinnyHunters logró apoderarse momentáneamente del sitio de empleos de la agencia. Afirman que es como protesta por la descripción que han hecho de ellos en un boletín de mayo.
Amazon le dice no al agente de Meta La compañía le ha impedido el acceso a su plataforma. Argumenta que supone un riesgo y que tiene derecho a decidir que herramientas pueden operar en su sitio. De fondo hay un negocio millonario de avisos y productos promocionados.
La amenaza de las entrevistas de trabajo falsas de Corea del Norte Investigadores de un grupo internacional alertan sobre esta práctica cada vez más extendida. En las entrevistas infectan los equipos de los candidatos. Roban billeteras de criptomonedas y se infiltran luego en las empresas en las que son contratadas sus víctimas.
Anthropic presume de la ayuda de Claude en el desarrollo de Claude La compañía ha querido mostrar que tan cerca está su laboratorio de lanzar una IA con la capacidad de mejorarse a sí misma. Advierte que puede influir en el control de los seres humanos sobre la herramienta.
Hackers chinos se enfocan en América Latina El grupo conocido como Salt Typhoon ha puesto el foco en países tales como Argentina, Perú, Ecuador y Venezuela. El objetivo es infiltrarse en las agencias de gobierno y ver como reaccionan a los intereses de EEUU.
