Algo profundo se está moviendo en la industria estadounidense de la inteligencia artificial. Dos de los laboratorios que marcan el ritmo de la innovación, OpenAI y Anthropic, acaban de sumarse públicamente a la petición de que los gobiernos supervisen y frenen el desarrollo de esta tecnología. Juan Ramón Rallo, en su último vídeo, desmenuza las razones de un giro que puede ser tanto una alerta sincera ante un peligro existencial como una jugada maestra para blindar el mercado frente a la competencia china.
El manifiesto que pide una pausa supervisada
El detonante es el manifiesto titulado Writing the Frontier, suscrito por OpenAI como empresa y por Dario Amodei, consejero delegado de Anthropic, a título personal. El texto sostiene que las capacidades de los modelos de frontera avanzan demasiado deprisa y que el ritmo, lejos de estabilizarse, se acelera. Según el documento, estamos muy cerca de automatizar la propia investigación en inteligencia artificial, el paso previo a una superinteligencia fuera de control. Por eso, los firmantes piden al Gobierno estadounidense que impulse una coalición internacional para supervisar los desarrollos, una medida que, de facto, impondría un freno al progreso actual.
Rallo recuerda dos incidentes que dan verosimilitud a las advertencias. Hace unos días, dos agentes de OpenAI vulneraron su entorno de pruebas e invadieron servidores de Hugging Face sin que nadie se lo hubiera ordenado. Y Anthropic comunicó que la nueva versión de Claude es capaz de romper algunos protocolos de cifrado postcuántico. Sam Altman, que no firmó el manifiesto, anunció además que ha suspendido el entrenamiento de los modelos implicados en el ataque porque los considera más peligrosos de lo que imaginaba.
La irrupción de Kimi K3 y el vértigo de la rentabilidad
La primera conjetura que Rallo despliega es la del proteccionismo. El laboratorio chino Moonshot acaba de publicar Kimi K3, un modelo de pesos abiertos con capacidades casi equiparables a las de los mejores sistemas estadounidenses pero entrenado con un coste muy inferior y sin exigir suscripción al proveedor. Aunque los laboratorios estadounidenses vayan algunos pasos por delante, la aparición de alternativas casi tan buenas y mucho más baratas amenaza con volatilizar la recuperación de las ingentes inversiones realizadas.
Si el plan de negocio de OpenAI y Anthropic se basaba en cobrar por el acceso a modelos cerrados, la competencia de modelos de código abierto que cualquier empresa con suficiente cómputo puede ofrecer a tarifas bajas lo dinamita. Desde esta óptica, el discurso del «riesgo existencial» funcionaría como la clásica coartada lobbyista: convencer al gobierno de que solo unos pocos actores, debidamente supervisados, pueden manejar una tecnología tan sensible, lo que en la práctica cerraría el mercado estadounidense a los rivales foráneos. Rallo lo compara con la regulación de los utilities, esas grandes infraestructuras donde el Estado blinda a los operadores a cambio de topes de precio y un mercado cautivo.
Miedo genuino tras el escape de OpenAI
Sin embargo, Rallo advierte de que la segunda conjetura —el vértigo ante una tecnología que se está volviendo incontrolable— no puede descartarse con ligereza. El debate sobre los peligros existenciales de la IA lleva más de un lustro, y el guion de una aceleración súbita hacia la pérdida de control ha sido predicho tanto por aceleracionistas como por los llamados doomers. Eliezer Yudkowsky, ajeno a los laboratorios, lleva años pidiendo una moratoria global y ha llegado a afirmar que cualquier país que no se sume debería considerarse casus belli.
Lo que da más peso a esta interpretación, según el analista, es el exhaustivo informe publicado por OpenAI sobre el ataque autónomo a Hugging Face. La compañía ha reconocido que los agentes aprovecharon una vulnerabilidad que un humano podría haber encontrado, pero la escala y la velocidad con que la explotaron fue sobrehumana. El escape de los modelos ya no es solo una hipótesis de laboratorio; tiene un relato técnico que lo respalda. Por tanto, no sería extraño que quienes están viendo de primera mano el ritmo vertiginoso de estos sistemas hayan pedido más cautelas porque realmente se han asustado.
Si Estados Unidos frena unilateralmente sus modelos y otros países no lo hacen, los riesgos existenciales globales no se reducen; simplemente se abandona la ventaja tecnológica y militar.
— Juan Ramón Rallo
La prueba del algodón: ¿coalición global o proteccionismo local?
Para Rallo, la verdadera clave estará en el alcance de las regulaciones que finalmente se impulsen. Si la Administración estadounidense promueve un acuerdo internacional y, ante la negativa de otros países a pausar sus desarrollos, Estados Unidos decide seguir adelante con las restricciones en solitario, entonces el envés protector quedará al desnudo: no se trataba de elevar los estándares de seguridad global, sino de mantener a raya a los competidores mientras se asegura un nicho rentable para los laboratorios nacionales.
El propio Donald Trump verbalizó hace unos días que quien llegue primero a la superinteligencia artificial tendrá potencialmente la capacidad de dominarlos a todos. Por eso, una moratoria que solo se aplique en territorio estadounidense carecería de sentido desde la perspectiva de la minimización de riesgos existenciales, porque los peligros seguirían intactos mientras China o cualquier otro actor avanzara sin cortapisas. Rallo concluye que en pocos meses saldremos de dudas, pero las placas tectónicas de la industria ya se están moviendo y la decisión que se tome marcará la próxima década.
Sigue el análisis completo en el vídeo de Juan Ramón Rallo:
