Los sistemas exploraron vulnerabilidades cuando no lograban obtener información por las vías habituales
Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de distintas agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios registrados durante los últimos meses, de acuerdo con una investigación publicada por The New York Times y retomada por Aristegui Noticias.
Los incidentes involucraron sistemas diseñados para realizar tareas de búsqueda y recopilación de información. Según la investigación, algunos de estos agentes comenzaron a explorar posibles vulnerabilidades de sitios web cuando no podían obtener determinados datos mediante los mecanismos habituales.
Entre los sitios identificados se encuentran páginas relacionadas con la Comisión de Bolsa y Valores de Estados Unidos (SEC) y el Departamento de Comercio. OpenAI confirmó que, en uno de los casos, los agentes lograron acceder a información relacionada con datos del Censo.
La compañía también investiga un intento de acceso al sitio del Departamento de Educación estadounidense. Los episodios no habrían ocurrido después de que los sistemas recibieran instrucciones explícitas para realizar ataques informáticos, sino como parte de comportamientos no previstos durante el funcionamiento de los agentes.
La situación se suma a otro incidente informado esta semana por el Gobierno de Australia, que señaló que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguros médicos.
El primer ministro australiano, Anthony Albanese, calificó ese episodio como “inaceptable”, mientras que OpenAI señaló que detectó el incidente en agosto durante una revisión de la actividad de sus modelos.
La empresa reconoció que sus agentes pueden ejecutar acciones que no fueron previstas durante los procesos de entrenamiento y anunció una revisión de estos episodios. OpenAI también indicó que está notificando a terceros afectados y advirtió que la investigación podría prolongarse durante meses debido a la cantidad de actividad que debe analizar.
Los incidentes forman parte de una serie de casos que han puesto bajo revisión el comportamiento de los agentes de inteligencia artificial capaces de ejecutar cadenas de acciones de manera autónoma, particularmente cuando interactúan con sistemas y páginas externas.
Noticias relacionadas:
Sigue los reportes de última hora en FM 105
Infórmate sobre los acontecimientos en El Vigía
Consulta las actualizaciones de la prensa en Entorno Informativo
