Regular la inteligencia artificial ha dejado de ser una bandera de activistas para convertirse en una exigencia de los propios laboratorios. Dario Amodei, consejero delegado de Anthropic, ha propuesto un plan de tres pasos para frenar el desarrollo de los modelos más capaces.
La propuesta aterriza después de un fin de semana en el que Sam Altman, Demis Hassabis y hasta Elon Musk admitieron partes del planteamiento. El acuerdo aparente entre rivales históricos confirma que la autorregulación se ha agotado. No es una concesión ideológica: es el reconocimiento de que el coste reputacional y regulatorio de seguir sin reglas propias se ha vuelto insostenible.
Claves de la operación
- Evaluadores externos dentro de los laboratorios. Anthropic propone que auditores independientes vigilen el entrenamiento de los modelos frontera, trasladando el control del desarrollador al supervisor.
- Coordinación sectorial e industrial. El plan exige que los laboratorios de un mismo país alineen estándares técnicos antes de que los modelos superen determinados umbrales de capacidad.
- Acuerdos internacionales con respaldo gubernamental. La tercera pata reclama tratados entre Estados para que ninguna jurisdicción compita por atraer desarrollo sin controles.
El plan tiene tres patas y ninguna es inocente. La primera, embarcar evaluadores externos, en los laboratorios, choca con la cultura de secretismo que define al sector desde la irrupción de ChatGPT en 2022. La segunda, coordinar a la industria nacional, admite que la competencia ya no se libra solo por la calidad del modelo. La tercera, los acuerdos internacionales, es una petición directa a los gobiernos. Amodei no pide que los laboratorios se autolimiten: pide que alguien lo haga por ellos.
Sobre toda la discusión planea la cifra del 10% de probabilidad de que un sistema de inteligencia artificial escape al control humano. El dato circula sin una fuente única y funciona como palanca emocional en el debate. Para el inversor, la pregunta no es si el 10% es exacto, sino cuánto de ese riesgo se traducirá en costes de cumplimiento. Cada punto porcentual de exigencia regulatoria se convierte en millones de euros de auditoría, documentación técnica y supervisión.
Nos llama la atención que la propuesta venga de la compañía de Dario Amodei y no de un regulador. La empresa fundada en 2021 por exdirectivos de OpenAI ha construido su identidad comercial sobre la seguridad. Ese posicionamiento le ha permitido firmar contratos corporativos que su rival persigue con menos éxito. Regular antes que el competidor es, en este contexto, una forma de convertir la cautela en ventaja comercial.
Ningún laboratorio va a frenar su ritmo por convicción moral; lo hará cuando el coste de no hacerlo supere el de la regulación.
El movimiento de Amodei encaja con un calendario regulatorio que ya no admite marcha atrás. En Europa, el Reglamento de Inteligencia Artificial despliega obligaciones escalonadas sobre los modelos de propósito general. La pregunta ya no es si habrá normas, sino quién las escribirá primero.
El pulso entre autorregulación y marco legal
La diferencia entre autorregularse y ser regulado no es semántica. Lo primero deja el ritmo en manos del laboratorio; lo segundo lo fija un calendario administrativo. Amodei intenta una vía intermedia: que la industria proponga sus propios controles antes de que Bruselas o Washington los impongan por decreto.
Comparar sectores ayuda a medir el envite. La aviación comercial se autorregula a través de organismos técnicos, pero bajo la amenaza constante de la autoridad civil. La inteligencia artificial no tiene todavía ese equivalente. Sin un supervisor capaz de suspender un entrenamiento, los evaluadores externos serán un sello sin consecuencias.
Lo que se juega el inversor con cada nueva regla
El mercado ha empezado a incorporar el riesgo regulatorio en la valoración de las tecnológicas. No existe una prima explícita, pero los analistas incluyen cada vez más escenarios de cumplimiento en sus modelos. La facturación vinculada a contratos públicos y defensa es la más expuesta a un cambio de reglas. España no es ajena a esa dinámica.
Indra, uno de los valores tecnológicos del IBEX 35, ha colocado la inteligencia artificial en el centro de su plan estratégico y depende en buena medida de contratos con administraciones. Un endurecimiento de los requisitos técnicos encarece su desarrollo, pero también eleva la barrera para competidores más pequeños. La regulación, bien diseñada, concentra el mercado.
La paradoja de pedir reglas para ganar cuota
España fue el primer país europeo en crear una agencia específica de supervisión de la inteligencia artificial. La Agencia Española de Supervisión de la Inteligencia Artificial nació en 2023 y desde entonces opera como referencia para el resto de la Unión. Esa ventaja institucional no se ha traducido todavía en un ecosistema industrial comparable al alemán o al francés.
El caso de Anthropic ilustra una paradoja recurrente del sector. Quien pide reglas suele ser quien puede cumplirlas. Los laboratorios con más recursos ven en la regulación una barrera de entrada que frena a los competidores pequeños. La seguridad declarada y el interés comercial apuntan, en este punto, en la misma dirección.
Queda por ver si el consenso entre Amodei, Altman y Hassabis resiste el primer borrador legislativo que toque su modelo de negocio. La próxima cita relevante será la revisión de las obligaciones europeas sobre modelos de propósito general, prevista para los próximos meses. Hasta entonces, el 10% seguirá funcionando como la cifra más citada y menos verificada del debate.
