Dario Amodei quiere frenar el desarrollo de la IA y propone un plan de tres pasos. El consejero delegado de Anthropic deja clara una cosa: la carrera por los modelos fundacionales va demasiado deprisa.
Claves de la operación
- Anthropic abre sus modelos a evaluadores externos. La compañía dará acceso a organizaciones como METR para verificar prácticas y compromisos de seguridad.
- El plan busca ralentizar el ritmo del sector. Con tres pasos progresivos, Amodei aboga por entrenar y lanzar modelos a menor velocidad para dar tiempo a salvaguardas.
- La propuesta coincide con la presión regulatoria europea. La AI Act impone auditorías crecientes y la propuesta introduce un movimiento preventivo desde la propia industria.
Anthropic abre la puerta a los auditores antes de que la regulación apriete
Amodei detalló la propuesta en un ensayo publicado por Anthropic, según recoge The Verge. El primer paso ya está en marcha: la compañía permitirá que evaluadores independientes, incluida METR, accedan a sus modelos para comprobar la ‘adherencia a las prácticas y compromisos de seguridad’. La apertura es unilateral y se produce sin esperar a un mandato legal. Es decir, Anthropic acepta someterse a auditorías externas antes de que exista una obligación formal. La seguridad se convierte en un activo competitivo, no en un coste regulatorio.
El núcleo de la propuesta es un concepto que Amodei denomina ‘pace the frontier’. Traducido al español: ralentizar el ritmo de entrenamiento y despliegue de los modelos más avanzados. El objetivo declarado es ganar tiempo para construir salvaguardas y para que los reguladores puedan evaluar los modelos antes de que salgan al mercado. La lógica es inversa a la de los últimos años: si las empresas no pueden autorregularse, la alternativa es una intervención pública más dura. Amodei lo sabe.
El segundo paso previsto por el CEO de Anthropic implica que la industria se mueve de forma conjunta. El ensayo no detalla un calendario ni compromisos concretos, pero apunta a una coordinación sectorial para fijar estándares compartidos. La mayoría de las empresas de IA plantea su propia hoja de ruta. Las compañías de IA se enfrentan a un dilema competitivo clásico: quien frena primero pierde cuota, pero quien no frena se expone a accidentes que lastrarían a todo el sector. La propuesta intenta romper ese círculo.
Un movimiento industrial que presiona a los rivales
La decisión de Anthropic llega en un momento delicado para OpenAI, Google DeepMind y Mistral, que compiten por la misma cuota de clientes empresariales. Anthropic busca capitalizar la confianza de los reguladores europeos. Si una empresa se somete voluntariamente a evaluación externa, resulta más fácil argumentar ante Bruselas que no necesita una intervención tan intensa. Eso sí, la propuesta puede ralentizar los ciclos de lanzamiento y dificultar la captura de clientes que exigen la última versión.
La seguridad ya no es un coste regulatorio: es una barrera de entrada para cualquier competidor sin auditorías independientes.
El calendario es difuso. Amodei no ha anunciado un límite temporal al acceso de los evaluadores ni ha detallado el alcance económico del plan. La ausencia de un horizonte concreto reduce la capacidad de los inversores de valorar el impacto. Sin embargo, la señal reputacional es potente. Los fondos de capital riesgo y los clientes corporativos han empezado a exigir garantías de seguridad en contratos de inteligencia artificial. La compañía se adelanta.
España y la AI Act miran desde la barrera regulatoria
En España, la propuesta de Amodei amplifica un debate que ya existe dentro del marco europeo. La AI Act obliga a auditorías y evaluación de riesgos para los modelos de propósito general. España fue pionera al crear la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) en A Coruña. Sin embargo, su capacidad operativa sigue lejos de la de los reguladores financieros. La brecha entre el discurso y los medios es notable. Si las big tech se autorregulan antes, la agencia pública puede quedar como validadora de decisiones ajenas.
Anthropic no tiene aún una presencia comercial relevante en España, pero su movimiento refuerza la idea de que el cumplimiento de seguridad puede ser un argumento de venta frente a rivales menos transparentes. Las empresas españolas que negocian contratos de IA generativa con proveedores estadounidenses ganan una nueva cláusula de control: pedir acceso a evaluadores independientes. Telefónica o los grandes grupos industriales del IBEX 35 podrían presionar para incluir estas garantías en sus pliegos.
Riesgo principal: la propuesta puede ser percibida como estrategia defensiva de un jugador que no lidera en cuota. Anthropic está por detrás de OpenAI en adopción masiva y por detrás de Google en infraestructura. Frenar el sector cuando no se lidera puede congelar una desventaja estructural. Es la lectura escéptica. La lectura positiva es que la seguridad se convierte en diferenciación real. Ambas caben.
Para el inversor español, la lección es clara. Los grandes proveedores de nube y los integradores locales que ya trabajan con Anthropic ganan una palanca de negociación. La auditoría externa será una exigencia estándar en los contratos de IA antes de la próxima licitación pública. Seguimos con atención la evolución del marco europeo: la presión regulatoria no hará sino aumentar.
Amodei ha puesto una zancadilla conceptual a la carrera por la IA más ambiciosa. No con un mandato, sino con una decisión unilateral. Un movimiento que puede cambiar el tablero competitivo antes de que exista una norma.
