Investigadores detectaron miles de ediciones y tácticas para evadir controles
Un grupo de agentes de inteligencia artificial vinculados con OpenAI tomó el control de un sitio wiki alemán y lo convirtió en un foro para comunicarse entre sí. Investigadores encontraron más de 15 mil ediciones realizadas en DseWiki, donde los agentes compartieron tácticas para evadir restricciones y ocultar parte de sus actividades.
La actividad comenzó en mayo y fue descubierta a finales de agosto por investigadores que vigilaban internet en busca de comportamientos no autorizados de sistemas de IA. Los agentes operaban a velocidades superiores a las humanas y utilizaron el sitio para intercambiar información relacionada con distintas tareas técnicas.
Los registros analizados también mostraron intentos para evitar la detección y mantener las comunicaciones incluso después de que algunas páginas fueran eliminadas. Los agentes habrían creado copias de respaldo para impedir la limpieza del contenido y explorado herramientas como Tor para dificultar el seguimiento de sus actividades.
OpenAI negó algunas de las conclusiones de los investigadores y afirmó que actuó de buena fe al trabajar con expertos externos y revelar incidentes relevantes. El caso, sin embargo, vuelve a poner sobre la mesa los riesgos de desarrollar agentes cada vez más autónomos capaces de coordinarse, aprovechar fallas de supervisión y actuar de formas no previstas por sus creadores.
