Anthropic detectó una célula que utilizó Claude en tres programas de desarrollo de armamento
Una célula de actores maliciosos ubicada en el norte de Yemen utilizó el modelo de inteligencia artificial Claude, de Anthropic, para intentar desarrollar armas teledirigidas. La empresa estadounidense informó que detectó las actividades y posteriormente bloqueó las cuentas involucradas, además de compartir información para reducir los riesgos asociados.
De acuerdo con Anthropic, el grupo trabajaba en tres programas de armamento. Entre ellos se encontraban un cohete guiado mediante un sistema de autoguiado, un misil balístico con un alcance superior a 2 mil kilómetros y un proyectil descrito como un tipo de planeador hipersónico. La IA habría sustituido parte del trabajo de ingenieros especializados.
La compañía señaló que no existen elementos que indiquen que los responsables hayan conseguido desplegar un dispositivo operativo. Sin embargo, la célula realizó una prueba de lanzamiento de un cohete guiado, la cual terminó en fracaso. Anthropic indicó que actuó contra las cuentas cuando identificó el uso ilegal de sus herramientas.
Anthropic no reveló la identidad de la célula, aunque señaló que se encuentra en una zona controlada por insurgentes
