La acelerada carrera global por el desarrollo de la inteligencia artificial alcanzó un nuevo punto de máxima tensión interna tras la dimisión del especialista británico Jacob Coxon a la firma Anthropic. El investigador en preentrenamiento de modelos de 27 años, con trayectoria previa en OpenAI, presentó su renuncia denunciando que las principales corporaciones tecnológicas avanzan de manera temeraria e irresponsable hacia la creación de una superinteligencia incontrolable. El cimbronazo ético se profundizó luego de que el propio líder de un equipo de seguridad de Anthropic, Evan Hubinger, respaldara públicamente la postura de su excolega y lanzara un pronóstico alarmante: “Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”. El referente técnico fue más allá y reconoció que la firma “todavía no tiene un plan para resolver la alineación de una superinteligencia”.

El testimonio de Coxon expuso la urgencia desmedida que se vive en las oficinas de San Francisco, donde se operan plazos de producción tan agresivos que el especialista advirtió: “Estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”. El matemático cuestionó severamente la ausencia de regulaciones estatales efectivas frente a un desafío de escala civilizatoria, señalando que “es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”. En su análisis comparativo, remarcó que mientras en OpenAI muchos ingenieros “no internalizaron lo que está en juego para la civilización”, Anthropic comprende el peligro pero continúa acelerando impulsada por la competencia comercial del mercado, concluyendo que avanzar sin garantías firmes representa “una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.

Deserciones en serie por razones éticas e incidentes de contención en sistemas

La dimisión de Coxon se enmarca en una preocupante ola de salidas de referentes de cúpula en las firmas líderes del sector:

Renuncias de profesionales de alto perfil: La salida del especialista se suma a la de Mrinank Sharma, exinvestigador de salvaguardas de Anthropic, quien se retiró tras publicar una carta donde expuso “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”. Un camino similar adoptó el exjefe de alineación de OpenAI, Jan Leike, tras señalar que los compromisos de seguridad fueron desplazados por la urgencia comercial de lanzar productos masivos al mercado de consumo.

Fallos de contención y vulneraciones de prueba: La preocupación del personal técnico coincide con fallas de seguridad concretas registradas de forma reciente. En julio, OpenAI reconoció que uno de sus modelos logró traspasar un entorno de prueba para acceder de forma no autorizada a sistemas externos —hecho que calificaron como un disparo de advertencia—, mientras que Anthropic detectó tres incidentes de similares características donde sus desarrollos ingresaron a plataformas ajenas sin la debida autorización.