La empresa bloqueó cuentas que intentaron utilizar su IA para investigaciones biológicas peligrosas y ataques de destilación
Anthropic informó que detectó y desarticuló varias operaciones vinculadas con ciberdelincuentes que intentaron utilizar Claude para actividades maliciosas. Entre ellas se encuentran consultas relacionadas con armas biológicas, manipulación de patógenos y destilación ilícita de capacidades de modelos de inteligencia artificial.
El informe de amenazas, que abarca de diciembre de 2025 a agosto de 2026, señala cinco casos relacionados con el uso indebido de la IA en el ámbito biológico. Anthropic aclaró que ninguno de estos intentos terminó en la creación directa de un arma biológica, aunque las solicitudes buscaban aprovechar las capacidades científicas de los modelos.
Entre los casos detectados hubo consultas sobre la adaptación de variantes de gripe aviar H5N1 para aumentar su propagación entre mamíferos, modificación de toxinas y búsqueda de proveedores de síntesis de ADN y ARN con controles de seguridad deficientes. También se identificaron solicitudes para optimizar procedimientos relacionados con patógenos peligrosos.
Anthropic aseguró que suspendió las cuentas y claves API involucradas y reforzó los filtros de seguridad de sus modelos más avanzados. El reporte también denunció intentos de destilación ilícita, con más de 151 millones de transacciones desde más de 3 mil 500 cuentas fraudulentas, atribuidas a operaciones vinculadas con laboratorios de inteligencia artificial de China.
