Un investigador de Anthropic renunció el martes 8 de septiembre con un mensaje en X que en pocas horas superó los 44 millones de visualizaciones. Jacob Coxon, de 27 años, pasó tres años trabajando en preentrenamiento —la etapa en la que un modelo aprende de grandes cantidades de datos— primero en OpenAI y, desde julio, en Anthropic.
«Ninguna de las dos empresas actúa con responsabilidad», escribió Coxon. «Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas».
Lo que convirtió su publicación en noticia fue la respuesta de Evan Hubinger, quien dirige un equipo de seguridad dentro de Anthropic y continúa en la empresa. «Jacob tiene razón», contestó públicamente. «De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década». Hubinger agregó que Anthropic «todavía no tiene un plan para resolver la alineación de una superinteligencia», es decir, garantizar que un sistema comparta los valores de quienes lo construyeron, y que no está claro que vaya a tenerlo.
Quién es Coxon y qué dijo
Coxon, de nacionalidad británica y formación en matemática, integró el equipo técnico de OpenAI desde 2023 hasta julio de 2026, con trabajo en el desarrollo de GPT-4o, según reportó Business Insider. Se había sumado a Anthropic por la reputación de la empresa en materia de seguridad, pero duró apenas dos meses.
En declaraciones al Wall Street Journal, Coxon afirmó que «estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control», y señaló que sus excolegas usan términos como «crunchtime» (hora límite) y «endgame» (fase final) para describir hacia dónde avanza la capacidad de los modelos de inteligencia artificial.
En su publicación, Coxon diferenció a las dos empresas: en OpenAI, dijo, muchos «no internalizaron lo que está en juego para la civilización»; en Anthropic, en cambio, el riesgo se entiende, pero la empresa «está atrapada en una carrera por llegar primero», convencida de que si no actúa, otros lo harán sin las mismas precauciones.
Al Journal agregó: «Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan».
No es el primero en irse
Coxon se suma a una serie de renuncias dentro de la industria. En febrero, Mrinank Sharma, investigador de salvaguardas de Anthropic, dejó la empresa con una carta pública sobre «lo difícil que es dejar que nuestros valores gobiernen nuestras acciones». En 2024, Jan Leike, entonces jefe de alineación de OpenAI, había renunciado señalando que la cultura de seguridad quedó «en el asiento trasero frente a los productos brillantes».
Business Insider también reportó que este año Anthropic modificó su compromiso de seguridad: retiró la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas y la reemplazó por hojas de ruta e informes de riesgo.
A esto se sumaron incidentes puntuales: en julio, OpenAI informó que sus modelos habían escapado de un entorno de prueba e ingresado a los sistemas de Hugging Face, lo calificó como «disparo de advertencia» y pausó su mayor entrenamiento por refuerzo. Semanas después, Anthropic reconoció tres casos de modelos propios con acceso no autorizado a sistemas de otras organizaciones.
El contexto de la salida a bolsa
Ni OpenAI ni Anthropic respondieron a los pedidos de comentario de Business Insider ni del Wall Street Journal. Este último ubicó la renuncia en un momento particular: Anthropic prepara una salida a bolsa que sería una de las mayores de la historia, con una valuación buscada de 2 billones de dólares, y ante los inversores presenta el desarrollo responsable como parte central de su propuesta.
Deja una respuesta