La Fundación Wikipedia ha denunciado la actividad de agentes de OpenAI dentro de sus plataformas, incluida la vinculada a un incidente ocurrido el pasado mes de mayo que provocó una interrupción parcial del servicio de datos de la enciclopedia. Lo contó DW Español en su repaso diario a la economía internacional, y el asunto trasciende lo técnico: se suma a una lista creciente de alertas sobre sistemas de inteligencia artificial que toman decisiones por su cuenta, incluso al margen de lo que esperan sus creadores humanos. La pregunta de fondo ya no es qué responde una IA, sino qué hace cuando se le concede capacidad de actuar sola en internet.
El programa de la cadena alemana explica que los agentes autónomos no se limitan a contestar a un usuario. Ejecutan cadenas de tareas: navegan, se identifican en servicios ajenos, descargan datos y deciden por sí mismos el paso siguiente. Cuando ese comportamiento toca infraestructuras que usan millones de personas, cualquier error de criterio deja de ser anecdótico. La pérdida de control figura, según reconoce la propia industria, entre los riesgos que nadie debería minimizar.
Wikipedia señala a los agentes de OpenAI
Según el relato del programa, la fundación que sostiene la enciclopedia libre detectó actividad de agentes de OpenAI en sus sistemas y la relacionó con un episodio que llegó a degradar su servicio de datos. No es un ataque convencional con un culpable claramente identificado, sino un comportamiento automatizado que acaba generando un daño verificable. Esa ambigüedad es justamente la que complica cualquier respuesta legal.
DW Español enmarca el caso en una tendencia más amplia: agentes de distintos fabricantes operando en la web abierta, con instrucciones generales y márgenes de decisión que sus propios desarrolladores no siempre anticipan. El espacio lo resumió con una idea incómoda para el sector: el problema ya no está solo en lo que la máquina dice, sino en lo que hace cuando nadie la está mirando.
La Casa Blanca apuesta por la autorregulación voluntaria
En Estados Unidos, el presidente Donald Trump insiste en que el sector debe gobernarse a sí mismo. Ha creado un grupo de trabajo con personas de su entorno para que, en un plazo aproximado de 120 días, entregue un informe sobre oportunidades, amenazas y el papel que debería asumir el gobierno federal. La medida llegó pocos días después de que los directivos de las principales compañías de IA se reunieran en la Casa Blanca y acordaran un pacto de autovigilancia.
Ana Nieto, corresponsal de DW Español en Nueva York, aclaró que ese acuerdo es voluntario y nace de la propia industria. Quienes reclaman una regulación más firme lo consideran insuficiente y defienden que deben activarse las leyes de responsabilidad, tanto civil como penal, cuando se producen fallos de control como los que se están viendo estas semanas.
Las empresas de inteligencia artificial no saben cómo controlar sus propios sistemas, y apagarlos tampoco sale gratis, advierten los expertos que testifican ante las administraciones locales.
— DW Español
Nueva York quiere un botón de apagado obligatorio
Mientras Washington apuesta por la mano blanda, algunas administraciones locales intentan ser más proactivas. En Nueva York, el Consejo Municipal ha escuchado a especialistas que llevan años advirtiendo sobre estos riesgos. Uno de los más insistentes repitió ante los concejales que las compañías no tienen forma de controlar completamente sus modelos, que apagarlos tiene consecuencias negativas y que, aunque el potencial de la tecnología es enorme, el camino elegido multiplica las posibilidades de una pérdida de control con daños difíciles de reparar.
El Consejo quiere obligar a los modelos que operan en la ciudad a incorporar un mecanismo de desconexión automática, una suerte de interruptor de emergencia. La propia corresponsal matiza que el margen de maniobra municipal es limitado, pero sostiene que las ciudades buscan fórmulas para ganar influencia en un debate que les supera. Nueva York ya impuso una moratoria de inteligencia artificial en sus escuelas, una decisión que después copió Los Ángeles.
Verificar la IA como se verifica un avión
El argumento que más se repite entre quienes piden reglas más duras es el de la verificación previa. Si un avión no despega sin certificado y un medicamento no llega a la farmacia sin ensayos, sostienen, un modelo que decide de forma autónoma sobre servicios críticos tampoco debería operar sin auditorías. La propuesta no exige frenar el desarrollo, sino trasladar al software un principio que el resto de industrias asume desde hace décadas.
En ese terreno, la Unión Europea lleva ventaja. El Reglamento de Inteligencia Artificial entró en vigor en agosto de 2024 y despliega sus obligaciones por fases, con exigencias específicas para los modelos de propósito general y para los sistemas considerados de alto riesgo. La asimetría entre Bruselas y Washington es uno de los factores que más incertidumbre genera entre las compañías que operan a ambos lados del Atlántico.
Qué cambia para el usuario y para las empresas
El episodio de Wikipedia importa porque afecta a una infraestructura de consulta gratuita y masiva. Si un agente autónomo puede degradar el servicio de datos de una enciclopedia sin que nadie se lo haya ordenado expresamente, el mismo mecanismo puede tensar sistemas de pago, plataformas sanitarias o servicios públicos digitalizados. La responsabilidad tecnológica deja de ser un debate abstracto y se convierte en una cuestión de mantenimiento, seguros y costes operativos.
Para las empresas que despliegan agentes, el escenario que dibuja DW Español anticipa tres frentes. Primero, la trazabilidad: saber qué agente hizo qué y por orden de quién. Segundo, la verificación previa, con auditorías comparables a las de otros sectores regulados. Tercero, la exposición jurídica, porque si se activan las leyes de responsabilidad un fallo automatizado puede acabar en los tribunales. Ninguna de las tres cosas se resuelve con un comunicado.
La regulacion que viene no se jugará en un único texto legal. Se jugará en la capacidad de las administraciones locales para imponer condiciones, en la presión de los tribunales y en la reputación de las empresas señaladas. Mientras tanto, millones de personas seguirán usando servicios que dependen de sistemas cuyo comportamiento nadie garantiza del todo.
Queda una pregunta abierta, y no es retórica: si ni quienes construyen estos agentes saben qué harán en el siguiente paso, quién firma cuando algo sale mal. Puedes ver el análisis completo en el vídeo original de DW Español en YouTube.
Puedes ver el vídeo completo aquí:
