El modelo en desarrollo mostró avances importantes en programación y ciberseguridad, al grado de que OpenAI no pudo descartar capacidades consideradas críticas.
Astra es un modelo de inteligencia artificial que OpenAI todavía mantiene en desarrollo y que recientemente llamó la atención por sus avances en programación agéntica y ciberseguridad. La compañía informó que sus evaluaciones internas mostraron capacidades suficientemente avanzadas como para que no pudiera descartar que alcanzara el nivel de riesgo cibernético “crítico” contemplado en su marco de seguridad.
La preocupación no está simplemente en que Astra pueda detectar vulnerabilidades. El punto clave es su capacidad para realizar tareas complejas de manera más autónoma, encadenando diferentes pasos para resolver problemas técnicos. OpenAI considera especialmente relevante este salto porque las mismas capacidades que pueden utilizarse para encontrar y corregir fallas también podrían ser aprovechadas para desarrollar ataques contra sistemas informáticos.
Ante estos resultados, OpenAI decidió pausar determinadas actividades internas relacionadas con Astra que todavía no cumplen con sus nuevos requisitos de seguridad. La compañía también implementó controles adicionales, como monitoreo universal de acciones de riesgo, restricciones de acceso a herramientas y redes en los entornos de prueba, además de mayores medidas de protección para el modelo.
La situación es significativa porque OpenAI está tratando a Astra como un posible cambio de nivel en las capacidades de ciberseguridad de sus modelos. La empresa asegura que comparte estas evaluaciones de manera preventiva debido a la posibilidad de que la IA avanzada pueda utilizarse tanto para fortalecer la defensa informática como para automatizar ataques más sofisticados. Por ahora, Astra continúa siendo un proyecto en desarrollo y OpenAI no ha presentado públicamente una fecha definitiva de lanzamiento.
Noticias relacionadas:
Sigue los reportes de última hora en FM 105
Infórmate sobre los acontecimientos en El Vigía
Consulta las actualizaciones de la prensa en Entorno Informativo
