Jefe de seguridad de Anthropic renuncia y advierte que hay más de 10% de probabilidad de que la IA “mate a todos los humanos”

Un investigador de Anthropic presentó su renuncia este martes 8 de septiembre y lanzó una dura advertencia sobre el rumbo que están tomando las principales empresas de inteligencia artificial. El mensaje publicado en X por Jacob Coxon, de 27 años, alcanzó más de 44 millones de visualizaciones en apenas nueve horas.

Coxon trabajó durante tres años en preentrenamiento, la fase en la que los modelos de inteligencia artificial procesan enormes cantidades de datos para aprender patrones y desarrollar sus capacidades. Primero formó parte de OpenAI y, desde julio de 2026, se incorporó a Anthropic. Sin embargo, su permanencia en esta última compañía duró apenas dos meses. “Ninguna de las dos empresas actúa con responsabilidad”, escribió. “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.

PUEDES VER: Un ingeniero construyó una mini hidroeléctrica desde cero y ahora abastece toda su casa con agua de río a más de 200 voltios

Lo que terminó convirtiendo la publicación de Coxon en noticia no fue únicamente su denuncia, sino la respuesta pública de uno de los propios investigadores de Anthropic. Evan Hubinger, quien dirige un equipo dedicado a la seguridad de la IA y continúa trabajando en la empresa, respondió al mensaje y coincidió con varias de sus advertencias.

"Jacob tiene razón", escribió Hubinger. El investigador fue incluso más contundente al reconocer públicamente el nivel de riesgo que contempla dentro de la propia compañía. "De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década".

Hubinger también admitió que Anthropic todavía enfrenta un problema fundamental: no cuenta con un plan definido para garantizar que una eventual superinteligencia permanezca bajo control humano. Según explicó, la compañía "todavía no tiene un plan para resolver la alineación de una superinteligencia" y tampoco existe certeza de que llegue a tenerlo.

En el ámbito de la inteligencia artificial, la alineación hace referencia al desafío de conseguir que los objetivos y comportamientos de un sistema avanzado sean compatibles con los valores e intenciones de las personas que lo desarrollaron.

¿Quién es Jacob Coxon y qué denunció?

Jacob Coxon es un investigador británico con formación en matemática. De acuerdo con Business Insider, integró el equipo técnico de OpenAI desde 2023 hasta julio de 2026, donde participó en trabajos relacionados con GPT-4o. Posteriormente decidió trasladarse a Anthropic, atraído en parte por la reputación de esta compañía en materia de seguridad de inteligencia artificial.

Sin embargo, su paso por Anthropic fue breve. Solo permaneció dos meses antes de presentar su renuncia y hacer públicas sus preocupaciones sobre el desarrollo acelerado de los modelos de IA.

En declaraciones concedidas a The Wall Street Journal, Coxon sostuvo que el sector se dirige hacia escenarios que considera especialmente peligrosos. "Estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control", afirmó.

El investigador también señaló que dentro de las compañías ha escuchado términos como "crunchtime" —hora límite— y "endgame" —fase final— para describir el momento hacia el que estaría avanzando el desarrollo de las capacidades de los modelos de inteligencia artificial.

En su publicación, Coxon estableció además diferencias entre OpenAI y Anthropic, aunque consideró que ambas compañías enfrentan un mismo problema: la carrera por desarrollar sistemas cada vez más capaces.

Sobre OpenAI, aseguró que muchos de sus trabajadores "no internalizaron lo que está en juego para la civilización". En el caso de Anthropic, sostuvo que existe una mayor conciencia sobre los riesgos, pero que la empresa también está atrapada en una competencia por alcanzar primero nuevos niveles de capacidad.

Según Coxon, dentro de Anthropic existe la percepción de que ninguna otra compañía actuará de manera suficientemente responsable y que, por ello, deben continuar avanzando pese a los riesgos que implica hacerlo.

"No es codicia", planteó el investigador, sino la convicción de que abstenerse de avanzar dejaría el terreno libre para que otras empresas desarrollen primero una tecnología potencialmente peligrosa.

Su conclusión fue especialmente crítica. Para Coxon, entrar en esa denominada fase final constituye "una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada".

En conversación con The Wall Street Journal, el investigador también utilizó una comparación con uno de los proyectos científicos más sensibles de la historia para cuestionar el lugar y las condiciones en las que se está desarrollando esta tecnología.

"Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el proyecto Manhattan", afirmó.

La fila de investigadores que han dejado estas empresas

La salida de Coxon no constituye un caso aislado entre los investigadores que han expresado públicamente sus preocupaciones sobre la seguridad de la inteligencia artificial. En los últimos años, otros especialistas vinculados a las principales compañías del sector también han decidido alejarse de sus puestos.

En febrero de 2026, Mrinank Sharma, investigador especializado en salvaguardas de Anthropic, renunció a la compañía y publicó una carta en la que reflexionó sobre "lo difícil que es dejar que nuestros valores gobiernen nuestras acciones".

Otro caso ocurrió en 2024, cuando Jan Leike, quien entonces se desempeñaba como jefe de alineación de OpenAI, dejó la compañía. En ese momento cuestionó la manera en que se estaban priorizando los objetivos comerciales y de desarrollo frente a la seguridad.

Leike sostuvo que la cultura de seguridad de OpenAI había quedado "en el asiento trasero frente a los productos brillantes", una frase que se convirtió en uno de los cuestionamientos más conocidos sobre las prioridades internas de la compañía.