Anthropic pierde a un ingeniero por su laxitud; otro investigador cifra en más del 10% el riesgo de extinción por la IA.
La compañía de inteligencia artificial, competidora directa de OpenAI en la carrera por la IA generativa, afronta una grieta interna de calado. Jacob Coxon, investigador que entrenó sistemas de IA en Anthropic y antes en OpenAI, anunció su dimisión en la red social X. Acusa a ambas empresas de ‘correr hacia una superinteligencia que se mejora a sí misma y jugar con nuestras vidas’, según recoge The Verge.
Horas después, un alto responsable de seguridad de Anthropic situó en más del 10% la probabilidad de que la IA ‘pueda matar a todos los humanos’ antes de que termine la década. La declaración convierte una dimisión individual en una señal de alarma sobre la gobernanza interna de la compañía.
Claves de la operación
- Jacob Coxon abandona Anthropic tras entrenar sistemas para OpenAI. Su salida se produce por una política de seguridad que considera insuficiente.
- Un alto responsable cifra en más del 10% el riesgo de extinción humana. La probabilidad se enmarca antes del final de la década, según The Verge.
- La dimisión impacta la narrativa de Anthropic como alternativa responsable. La compañía compite con OpenAI y ha de dar explicaciones a inversores y reguladores.
La grieta entre seguridad y velocidad en Anthropic
Anthropic ha construido su identidad de mercado precisamente sobre la seguridad. La dimisión de Coxon cuestiona ese posicionamiento ante el mercado y abre un frente de credibilidad del que la empresa apenas puede permitirse dudar. La compañía lleva años presentándose como la opción más prudente frente a la velocidad de OpenAI.
Coxon no es un perfil secundario. Entrenó sistemas de IA en OpenAI antes de fichar por Anthropic. Su salida por las prácticas de seguridad de su propio empleador tiene un valor simbólico añadido: no es un crítico externo, es talento interno que decide marcharse. La acusación de que ambas empresas ‘juegan con nuestras vidas’ apunta directa a la velocidad comercial de la carrera por la superinteligencia.
La cifra del alto responsable de seguridad multiplica el impacto. Más de un 10% de probabilidad de extinción humana antes de que termine la década es un nivel de riesgo que ningún responsable de riesgos aceptaría de un proveedor de infraestructura crítica. Esa cifra tiene recorrido regulatorio y reputacional si se consolida.
El riesgo existencial ya no se discute en abstracto: ahora tiene una probabilidad concreta y sale del interior de la propia empresa.
El impacto en la competencia y en el mercado de la IA
El aviso llega en un momento delicado para Anthropic. La compañía compite con OpenAI y con el resto de grandes laboratorios de IA por capital y por acuerdos de infraestructura con grandes nubes. El respaldo financiero recibido en los últimos años exige una disciplina de gobernanza que evite sustos como el actual.
La dimisión de Coxon y la cifra del 10% elevan la presión sobre los inversores. La mayoría de los fondos que participaron en sus últimas rondas ha de explicar ahora a sus comités de inversión que su apuesta por la empresa más ‘responsable’ del sector puede no serlo tanto. Para OpenAI, el episodio supone una victoria pírrica: la crítica de Coxon salpica a las dos compañías por igual.
La Comisión Europea y el Reglamento de IA observan de cerca cualquier señal que justifique endurecer la supervisión. Un aviso de esta naturaleza, formulado dentro de una empresa que presumía de sus estándares, da argumentos a quienes piden auditorías previas para sistemas avanzados. El reglamento europeo introduce obligaciones para modelos de riesgo sistémico; este episodio refuerza a quienes consideran que se queda corto.
Lo que la dimisión de Coxon revela sobre el sector de la IA generativa
La lectura que hacemos en esta redacción es que la seguridad empieza a funcionar como moneda de cambio en la batalla comercial de la IA. Anthropic la ha usado para diferenciarse de OpenAI. Ahora, un investigador que entrenó en ambas empresas la señala como insuficiente. El mensaje es incómodo porque no viene de un regulador, sino de un empleado que conoce los sistemas desde dentro.
El precedente más cercano en España es el trabajo de la AEPD sobre riesgos algorítmicos en sistemas de IA generativa. La idea de que un modelo pueda ‘matar a todos los humanos’ puede sonar lejana, pero traslada al debate europeo la misma tensión que ya existe en Estados Unidos. La pregunta no es si hay que regular la IA, sino con qué herramientas y con qué urgencia.
La paradoja es evidente. Anthropic obtiene financiación multimillonaria mientras la probabilidad de extinción que maneja un directivo interno supera el umbral que cualquier consorcio asegurador consideraría inasegurable. El mercado de la IA opera con una elasticidad de riesgo que no se le tolera a ningún otro sector.
El próximo termómetro será la respuesta oficial de Anthropic y la reacción de los fondos que respaldan a la compañía. Si la dimisión de Coxon no fuerza cambios en la política de seguridad, la credibilidad de la narrativa ‘responsable’ quedará en entredicho. Si los obliga, la carrera por la superinteligencia habrá mostrado su primer frenazo interno. Por ahora, el sector continúa acelerando.
