Jacob Coxon renunció y advirtió que la inteligencia artificial podría volverse incontrolable
Jacob Coxon, investigador que trabajaba en Anthropic, anunció su renuncia y lanzó una fuerte advertencia sobre el rumbo de la inteligencia artificial. El especialista acusó a Anthropic y OpenAI de competir por desarrollar sistemas de superinteligencia capaces de mejorar sus propias capacidades, sin que existan todavía suficientes garantías para controlar sus posibles consecuencias.
Coxon señaló que quienes desarrollan estas tecnologías consideran seriamente la posibilidad de que una IA pueda causar la extinción humana antes de que termine la década. También sostuvo que los futuros sistemas podrían superar ampliamente las capacidades humanas, realizar ataques informáticos y adquirir recursos y poder a una velocidad difícil de controlar.
La advertencia fue respaldada por Evan Hubinger, investigador de alineación de Anthropic, quien afirmó que personalmente considera superior al 10 por ciento la posibilidad de que la IA termine con la humanidad durante los próximos diez años. Hubinger reconoció además que la compañía todavía no tiene una solución para garantizar la alineación de una eventual superinteligencia.
El debate se centra especialmente en la llamada mejora recursiva, escenario en el que una IA podría desarrollar sucesores cada vez más capaces con una intervención humana limitada. Anthropic ya había advertido sobre los riesgos de esta posibilidad, mientras Coxon consideró que incidentes recientes con agentes de IA representan señales de alerta para la industria.
