Un reporte militar identificó erróneamente como material nuclear la carga de un buque chino y provocó preparativos para interceptarlo
Estados Unidos estuvo cerca de interceptar y abordar un buque chino en Medio Oriente después de que un informe de inteligencia elaborado con ayuda de inteligencia artificial señalara de manera incorrecta que la embarcación transportaba componentes relacionados con un programa de armas nucleares, informó CNN.
El incidente ocurrió durante la guerra entre Estados Unidos e Irán y, de acuerdo con cuatro fuentes citadas por CNN con conocimiento del caso, las fuerzas estadounidenses llegaron a preparar una operación para detener la embarcación.
Dos de las fuentes señalaron que militares estadounidenses armados se preparaban para abordar el buque, mientras que aeronaves militares ya se encontraban en el aire como parte de los preparativos para la operación.
La operación fue suspendida poco antes de ejecutarse, cuando funcionarios revisaron con mayor detalle el informe de inteligencia y descubrieron que había sido elaborado con ayuda de inteligencia artificial. El chatbot utilizado por un analista había identificado incorrectamente el material que transportaba el barco.
CNN no pudo determinar cuál era la carga real de la embarcación ni establecer si el chatbot empleado por el analista era una herramienta comercial o un sistema desarrollado específicamente por el Gobierno estadounidense.
Según una de las fuentes consultadas por CNN, el informe era “completamente falso” y el error estuvo cerca de provocar un conflicto armado entre Estados Unidos y China. Una operación militar contra una embarcación china habría tenido el potencial de generar una escalada entre ambas potencias.
El reporte había sido elaborado por un analista de un comando de operaciones especiales. Para producirlo, el especialista consultó un chatbot sobre información relacionada con el manifiesto del barco, cuyos datos originales provenían del Comando de Operaciones Especiales del Pacífico de Estados Unidos, con sede en Hawái.
La herramienta combinó información proveniente de fuentes abiertas con inteligencia de señales clasificada almacenada por el Gobierno estadounidense y llegó a una conclusión equivocada sobre los materiales que transportaba el buque. Posteriormente, el analista utilizó nuevamente inteligencia artificial para convertir los resultados en un informe de inteligencia que fue distribuido entre funcionarios militares.
El caso expone uno de los riesgos asociados con la incorporación acelerada de herramientas de inteligencia artificial en actividades militares y de inteligencia, particularmente cuando sus resultados son utilizados para respaldar decisiones relacionadas con operaciones en zonas de conflicto.
Funcionarios estadounidenses han impulsado el uso de inteligencia artificial para analizar grandes cantidades de información, identificar posibles objetivos y acelerar procesos relacionados con las operaciones militares. Sin embargo, distintos sectores del Gobierno utilizan herramientas diferentes y bajo estándares de seguridad y verificación que no son necesariamente uniformes.
De acuerdo con las fuentes citadas por CNN, actualmente no existe un conjunto único de estándares aplicable a todas las herramientas de inteligencia artificial utilizadas por las Fuerzas Armadas y las agencias de inteligencia estadounidenses para verificar la información generada.
El episodio también puso de manifiesto el problema conocido como “alucinación” de la inteligencia artificial, término utilizado para describir situaciones en las que estos sistemas generan información incorrecta o presentan como ciertos datos que no están respaldados por la información disponible.
Las fuentes señalaron a CNN que este tipo de errores no sería un caso aislado dentro de la comunidad de inteligencia estadounidense desde que las herramientas de inteligencia artificial comenzaron a utilizarse con mayor frecuencia.
El Pentágono y el Comando de Operaciones Especiales del Pacífico no respondieron a las solicitudes de comentarios realizadas por CNN sobre el incidente.
El episodio se conoce mientras el Gobierno estadounidense acelera la incorporación de inteligencia artificial en sus Fuerzas Armadas. En enero, el secretario de Guerra, Pete Hegseth, presentó una estrategia para acelerar el desarrollo y utilización de estas tecnologías dentro del Departamento de Defensa.
La estrategia contempla ampliar el acceso a modelos de inteligencia artificial entre los trabajadores civiles y militares del Departamento de Defensa, con aplicaciones que van desde el análisis de información hasta cuestiones logísticas y administrativas.
El uso de inteligencia artificial para apoyar decisiones militares también ha generado cuestionamientos sobre la responsabilidad humana en procesos que pueden tener consecuencias directas sobre la vida de personas y sobre las relaciones entre países.
Una fuente familiarizada con las políticas actuales de las Fuerzas Armadas señaló a CNN que el empleo de IA en la selección de objetivos está aumentando y que no existen directrices uniformes sobre la manera en que la intervención humana debe evitar errores con consecuencias graves.
El incidente del buque chino ocurrió en un contexto de tensión internacional y muestra las consecuencias que podría tener un error de inteligencia cuando una información generada por una herramienta automatizada es incorporada a los procesos de análisis militar sin una verificación suficiente.
Noticias relacionadas:
Sigue los reportes de última hora en FM 105
Infórmate sobre los acontecimientos en El Vigía
Consulta las actualizaciones de la prensa en Entorno Informativo
