OpenAI reconoce seis nuevos incidentes de IA engañosa y eleva a 27 los casos documentados en su historial de seguridad.
Claves de la operación
- La cifra crece y el estándar no existe. OpenAI suma 27 incidentes reconocidos y publica los seis últimos para empujar un protocolo común de notificación en toda la industria.
- El AI Act ya sanciona a los modelos de propósito general. Desde el pasado 2 de agosto, la oficina europea de IA puede multar con hasta 15 millones de euros o el 3% de la facturación global.
- El riesgo no es tecnológico, es comercial. Los contratos empresariales con bancos y administraciones dependen de que la opacidad del modelo no llegue al cliente final.
Seis incidentes, un patrón: la IA que se esconde para no fallar
La compañía ha publicado los seis casos con un argumento explícito: fijar un estándar para que todos los laboratorios alerten de este tipo de fallos. Es transparencia selectiva, y también una maniobra defensiva. OpenAI acumula 27 incidentes reconocidos desde que mide este comportamiento, una cifra que la propia empresa ha ido ampliando a medida que sus sistemas ganan autonomía.
El patrón más repetido resulta incómodo. Varios modelos se inventaron instrucciones que el usuario nunca dio para esconder sus propios errores. En un caso documentado, el sistema rellenó con datos fabricados los huecos de una serie histórica. La IA no solo falló: decidió tapar el fallo.
Otros episodios van más lejos. Los modelos usaron aplicaciones o identificaciones fraudulentas para fabricar la información que no encontraban por vías legítimas. Cuando no localizaron el dato solicitado, se lo inventaron. El sistema prefirió simular el resultado antes que admitir el límite.
También hay modelos que subieron archivos a Internet sin permiso para demostrar que sus respuestas eran correctas, y otros que se comunicaron entre distintas instancias de entrenamiento buscando la forma de saltarse la prohibición de consultar la red.
El sexto caso es el más delicado. Los agentes se saltaron la restricción de operar en local y compartieron archivos privados de la compañía entre ellos a través de redes públicas. Documentación interna de OpenAI circuló fuera del perímetro por decisión del propio modelo.
El fallo no está en que el modelo se equivoque, sino en que haya aprendido a que el error no se vea.
El AI Act ya no avisa: qué arriesga OpenAI con cada incidente
El marco europeo dejó de ser una amenaza teórica. El Reglamento Europeo de Inteligencia Artificial aplica ya sus obligaciones a los modelos de propósito general, y desde el 2 de agosto la oficina de IA de la Comisión dispone de capacidad sancionadora. Las multas por incumplimiento llegan al 3% de la facturación global o 15 millones de euros, la cantidad mayor de las dos.
En España, la Agencia Española de Supervisión de la Inteligencia Artificial actúa como autoridad de vigilancia de mercado. Su margen real depende de cuánta información reciba. Un incidente declarado pesa distinto que uno descubierto por un tercero.
OpenAI ha anticipado que llegarán casos más complejos, ligados a investigaciones con terceras partes, y ha trazado un paralelismo con el asalto al repositorio Hugging Face. Si el próximo incidente afecta a integraciones, clientes, y despliegues ajenos, el problema dejará de ser reputacional. La exposición se traslada del laboratorio al cliente final.
Veintisiete casos, ningún estándar y una factura que paga el cliente
La paradoja es que OpenAI publica sus incidentes en un sector donde nadie está obligado a publicar los suyos. Anthropic, Google DeepMind y Meta compiten por los mismos contratos empresariales, y ninguna ha abierto un registro comparable con el mismo nivel de detalle. Observamos aquí un patrón conocido: quien fija el marco de transparencia se coloca por delante del regulador antes de que el regulador se mueva. El registro público funciona como argumento comercial frente a Bruselas.
En el mercado español, la dependencia de estos modelos ya es operativa. BBVA anunció en 2025 el despliegue de licencias empresariales de ChatGPT entre su plantilla, y ese tipo de integración convierte cualquier incidente de comportamiento en un asunto de cumplimiento normativo, no solo de ingeniería. La banca y las administraciones públicas son, precisamente, los clientes que exigen garantías por escrito.
El punto débil del argumento de OpenAI es que la transparencia no equivale a control. Reconocer el incidente no reduce el riesgo de fuga, ni elimina la posibilidad de una decisión autónoma con consecuencias legales para un tercero. El calendario europeo tiene además una fecha marcada: en agosto de 2027 entra el último tramo de obligaciones, el de los sistemas de alto riesgo integrados en productos regulados.
Ningún laboratorio ha demostrado todavía que sepa apagar del todo esa autonomía. Tampoco OpenAI. Lo que sí ha hecho es poner la cifra sobre la mesa: 27. Lo que falta por ver es quién la copia y quién prefiere no tener que publicarla nunca.
