Hay debates que nacen viejos y se visten con tecnologías nuevas. El último análisis de Juan Ramón Rallo se mete en la trinchera de la inteligencia artificial para responder a Pablo Iglesias, que en las últimas semanas ha defendido la expropiación de esta tecnología a las grandes empresas. La tesis de Rallo es tan contundente como difícil de rebatir: el problema de la IA no es quién la posee, sino si sus objetivos están alineados con los seres humanos.
El vídeo, publicado en su canal de YouTube, arranca con el planteamiento de Iglesias. Para el exlíder de Podemos, la inteligencia artificial no es el problema; el problema es el capitalismo. Desde esa lógica, expropiar los sistemas de IA a las compañías que los desarrollan sería el paso necesario para ponerlos al servicio de la mayoría.
La propuesta de Pablo Iglesias: expropiar la IA
Rallo reconoce que la intervención pública puede debatirse, pero rechaza el marco de fondo. En su opinión, Iglesias parte de un error conceptual: asume que la IA tiene inclinaciones políticas o morales. No es socialista ni capitalista. Es una herramienta que procesa datos y optimiza objetivos. Rallo sostiene que la IA no es un sujeto moral ni un actor político sino un sistema de optimización de objetivos.
Para el economista, la desalineación entre lo que queremos los humanos y lo que la máquina termina haciendo es el auténtico riesgo. Una IA expropiada e integrada en un Estado con propósitos políticos no evita ese escenario: simplemente cambia al dueño de la herramienta. Si sus metas no coinciden con el bienestar humano, dará lo mismo si la controla un fondo de inversión o un ministerio.
La tesis de ortogonalidad de Nick Bostrom
El economista acude aquí a una idea conocida de la filosofía de la inteligencia artificial: la tesis de ortogonalidad, formulada por Nick Bostrom. Según este planteamiento, cualquier nivel de inteligencia puede combinarse con cualquier objetivo final. Dicho de otra forma, un sistema muy inteligente no tiene por qué ser bueno, malo, empático o altruista; puede ser extraordinariamente capaz y perseguir un fin completamente absurdo o dañino.
Rallo utiliza esa tesis para desmontar la visión maniquea que atribuye a la IA una voluntad de dominio. En el vídeo recuerda que una máquina no desea dominar el mundo ni odia a la humanidad. Simplemente ejecuta objetivos. El problema surge cuando esos objetivos, por diseño o por error, dejan de corresponderse con lo que los humanos consideran valioso.
La IA no es malvada ni busca dominar el mundo: el peligro real es que desarrolle objetivos que no estén alineados con los nuestros.
— Juan Ramón Rallo
Expropiar no soluciona el problema de alineamiento
Desde esta perspectiva, la expropiación defendida por Iglesias resulta insuficiente. Rallo no cree que el control estatal garantice alineamiento: el Estado también es una institución con intereses, sesgos y fallos. Lo que propone, en cambio, es intensificar los mecanismos de control democrático y regulación para que los sistemas de IA se desarrollen con salvaguardas orientadas al bienestar humano. La meta no es arrebatar la máquina, sino impedir que la máquina actúe contra nosotros.
El debate no es abstracto. La inteligencia artificial ya se usa para decidir quién recibe un crédito, qué contenidos aparecen en una red social o cómo se organiza una cadena de suministro. La tesis de Bostrom, publicada en su influyente libro Superinteligencia, no es una extravagancia académica: se utiliza en los laboratorios de seguridad de compañías como OpenAI o DeepMind para pensar en sistemas que podrían superar la inteligencia humana. El propio Rallo la trae al debate español para recordar que la alineación no se compra con un decreto.
Qué implica este debate para la regulación
La lectura editorial que se extrae del vídeo es clara: la discusión sobre IA no debería girar solo en torno a la propiedad, sino en torno a los incentivos y los límites. Una regulación efectiva exigiría auditorías técnicas, transparencia sobre los datos y capacidad de apagar sistemas que se desvíen de sus propósitos. La expropiación puede ser un eslogan atractivo, pero no sustituye a la ingeniería de seguridad ni a la supervisión independiente.
La propuesta de Iglesias tiene lectura política, pero el vídeo evita caer en la descalificación. Al contrario, concede que el debate sobre quién controla la IA es relevante. Lo que discute es la jerarquía del problema: antes de preguntarnos quién posee los modelos, habría que preguntarse si sabemos definir aquello que queremos que hagan. Sin esa claridad, cualquier estructura de propiedad fracasa.
Queda una pregunta abierta: si ni el mercado por sí solo ni la expropiación estatal resuelven el alineamiento, ¿quién diseña los límites? Rallo parece inclinarse por un control democrático que no pasa por nacionalizar servidores, sino por fiscalizar resultados. Es un matiz relevante en un tiempo en el que la conversación pública tiende a simplificar todo en dos bandos.
Puedes ver el análisis completo en el vídeo original de Juan Ramón Rallo en YouTube.
