El ingeniero británico dejó la empresa por temor a que la carrera por desarrollar superinteligencia avance sin controles suficientes
Jacob Coxon, ingeniero británico que trabajó durante aproximadamente tres años en investigación y entrenamiento de modelos de inteligencia artificial en OpenAI y Anthropic, renunció a esta última compañía por sus preocupaciones sobre el rumbo de la industria. El investigador sostiene que la competencia entre empresas está acelerando el desarrollo de sistemas cada vez más capaces.
Coxon advirtió que uno de los principales riesgos está en el desarrollo de una superinteligencia capaz de mejorar sus propias capacidades. Según su planteamiento, una evolución de este tipo podría avanzar a una velocidad difícil de supervisar para los seres humanos y generar sistemas cuyo comportamiento resulte cada vez más complicado de controlar.
El investigador también señaló que durante su paso por OpenAI y Anthropic conoció a especialistas y responsables que, de acuerdo con su versión, reconocen en privado la gravedad de algunos riesgos asociados con la IA. Sin embargo, considera que la presión por superar a otras compañías está llevando al sector a continuar con el desarrollo incluso sin contar con garantías suficientes.
Coxon plantea que la industria debería detener temporalmente el avance hacia capacidades más avanzadas para evaluar los riesgos y establecer mecanismos de seguridad. Su renuncia ocurrió además poco antes de que pudiera recibir una participación económica de Anthropic, decisión que, según Axios, reforzó su postura de abandonar la empresa por motivos relacionados con la seguridad de la IA.
