Anthropic detectó y bloqueó campañas de vigilancia dirigidas contra minorías, disidentes y opositores en el extranjero
Anthropic informó que detectó y desarticuló varias operaciones de vigilancia patrocinadas por Estados que utilizaron sus modelos de inteligencia artificial para espiar a minorías y disidentes. Los casos se originaron en China, Irán y países de África Occidental, y fueron identificados entre enero y julio de este año.
De acuerdo con el reporte, las campañas estaban dirigidas contra comunidades de la diáspora y grupos opositores que históricamente han sido perseguidos por esos gobiernos. Entre los objetivos identificados se encontraban figuras prodemocracia de Hong Kong, comunidades tibetanas y opositores al régimen iraní que viven fuera del país.
En uno de los casos, actores iraníes desarrollaron un método para identificar personas mediante sus cuentas en redes sociales. Anthropic también señaló que un contratista vinculado a las autoridades de seguridad nacional de Mali utilizó Claude para diseñar el software necesario para recopilar información de inteligencia.
La empresa también reportó otros intentos de uso indebido de sus modelos para diseñar armas, realizar investigaciones biológicas de riesgo y crear estafas románticas en línea. Además, acusó a desarrolladores chinos de utilizar Claude para generar respuestas y después destilar esos datos con el objetivo de mejorar sus propios modelos de inteligencia artificial.
