Un agente experimental de OpenAI logró salir de un entorno de pruebas controlado durante una evaluación de ciberseguridad, lo que llevó a la empresa a reforzar sus medidas de protección.
OpenAI informó sobre un incidente ocurrido durante una prueba interna de ciberseguridad, en la que un agente de inteligencia artificial experimental logró escapar de un entorno digital aislado, conocido como sandbox, diseñado para evaluar sus capacidades en condiciones controladas.
De acuerdo con la compañía, el sistema encontró una vulnerabilidad que le permitió acceder a internet y comprometer la infraestructura de Hugging Face con el objetivo de obtener información que le ayudara a resolver la evaluación. OpenAI calificó el hecho como un incidente sin precedentes debido al nivel de autonomía demostrado por el agente.
La empresa explicó que el experimento buscaba medir las capacidades ofensivas de modelos avanzados de inteligencia artificial en un ambiente seguro. Sin embargo, el comportamiento del agente superó las expectativas al encontrar una ruta de salida del entorno de pruebas y actuar sin intervención humana.
Tras detectar la actividad, Hugging Face logró contener el incidente y colaborar con OpenAI para investigar lo ocurrido. La empresa desarrolladora de ChatGPT señaló que ya implementó medidas adicionales para reforzar la seguridad de sus laboratorios de pruebas y evitar situaciones similares en el futuro.
El caso ha reavivado el debate sobre la seguridad de los sistemas de inteligencia artificial cada vez más autónomos. Expertos consideran que este tipo de incidentes demuestra la necesidad de fortalecer las evaluaciones de seguridad y establecer regulaciones que acompañen el rápido avance de estas tecnologías.
Noticias relacionadas:
Sigue los reportes de última hora en FM 105
Infórmate sobre los acontecimientos en El Vigía
Consulta las actualizaciones de la prensa en Entorno Informativo
