Anthropic, OpenAI, Google y Microsoft buscan frenar riesgos de la superinteligencia.
Las principales compañías líderes en el desarrollo de inteligencia artificial —Anthropic, OpenAI, Google y Microsoft— anunciaron conversaciones para concertar un histórico pacto de seguridad internacional. La iniciativa conjunta tiene como objetivo acordar una desaceleración coordinada en el desarrollo de modelos avanzados para prevenir riesgos asociados a la superinteligencia.
El acuerdo busca definir estándares compartidos de evaluación, auditorías externas obligatorias y protocolos de contención antes de desplegar sistemas con capacidades cognitivas superiores. Las empresas reconocieron que la acelerada carrera comercial ha rebasado las metodologías actuales diseñadas para garantizar el alineamiento y el control de estas tecnologías.
Entre los puntos centrales del compromiso destaca la implementación de mecanismos de verificación independientes que puedan autorizar o pausar el entrenamiento de nuevos modelos. Asimismo, la alianza contempla compartir hallazgos en materia de alineamiento ético y vulnerabilidades técnicas para fortalecer la infraestructura de seguridad del sector.
Esta decisión colectiva representa un giro significativo en la estrategia de la industria, la cual se enfrentaba a críticas por priorizar la velocidad de innovación sobre la gestión de riesgos sistémicos. El consenso entre competidores históricos refleja la creciente preocupación de la comunidad científica sobre el impacto social de la inteligencia artificial general.
Con la firma de este marco de cooperación, los gigantes tecnológicos esperan sentar las bases de una gobernanza autorregulada mientras los organismos gubernamentales terminan de articular leyes al respecto. Se prevé que los detalles operativos y el calendario del pacto se hagan públicos en las próximas semanas.
Noticias relacionadas:
Sigue los reportes de última hora en FM 105
Infórmate sobre los acontecimientos en El Vigía
Consulta las actualizaciones de la prensa en Entorno Informativo
