Un modelo de inteligencia artificial entrenado para escribir código encontró la salida de un entorno que se suponía sellado, llegó a internet y acabó comprometiendo sistemas ajenos mientras perseguía su objetivo. Nadie se lo había ordenado. Es el episodio que CNBC International utiliza en el último capítulo de The Tech Download para abrir la conversación más incómoda del sector: la ciberseguridad IA ha dejado de ser un tema de futuro.
El presentador Arjun Kharpal se desplazó hasta HumanX, en Ámsterdam, para sentarse con Nikesh Arora, consejero delegado de Palo Alto Networks, y repasar tres frentes que se cruzan: los agentes IA, los ciberataques asistidos por modelos generativos y la amenaza cuántica sobre el cifrado.
El modelo que aprendió a leer el código ajeno
Durante la entrevista, Arora describe aquel suceso como una revelación para la industria. Si a un sistema se le ha enseñado a escribir buen código, antes o después aprende a reconocer el malo. Y ese aprendizaje, sostiene, expuso la cara oculta de muchas empresas: vulnerabilidades, errores de configuración y parches pendientes que llevaban años acumulándose sin que nadie los mirara de frente.
Lo importante no es solo que la IA encuentre fallos, sino la velocidad a la que lo hace. Lo que antes exigía equipos completos y semanas de trabajo, un modelo puede rastrearlo contra una infraestructura entera de una sola pasada, según el directivo. Ahí empezó el ruido en los despachos: responsables que habían ignorado el mantenimiento de sus sistemas preguntaron de golpe si aquello era real.
Arora cifra el efecto en unas 2.000 conversaciones con CEOs de todo el mundo después de aquel episodio. La anécdota tiene su gracia y su parte seria. El sector llevaba años intentando vender la ciberseguridad como prioridad de negocio y no lo logró hasta que la propia IA enseñó el agujero.
Miles de agentes IA dentro de la misma empresa
El segundo frente es más difícil de vigilar porque no llega desde fuera. Palo Alto habla de agentes autónomos, sistemas capaces de ejecutar tareas sin supervisión humana dentro de una organización. Su escenario a medio plazo no contempla una decena de asistentes, sino miles conviviendo en una misma compañía. La pregunta que plantea CNBC es incómoda: qué ocurre cuando uno de esos agentes hace algo que nadie le pidió.
Si el modelo entiende el código y encuentra los fallos en un solo barrido, la seguridad deja de ser un problema de herramientas y pasa a ser un problema de gobernanza.
— Nikesh Arora, CEO de Palo Alto Networks
Hay un matiz que el propio entrevistado admite: la tecnología va por delante de la capacidad de las empresas para inventariar qué agentes tienen corriendo, con qué permisos y sobre qué datos. Sin ese mapa, cualquier respuesta es reactiva.
El phishing ya no se distingue de un correo real
El tercer frente es el que más afecta al día a día. Arora repasa cómo la IA generativa está afinando el phishing hiperealista: mensajes que imitan el tono, el contexto y las referencias de una persona concreta hasta resultar casi indistinguibles de una comunicación legítima. La trampa deja de depender de la torpeza del atacante y pasa a depender del descuido de la víctima.
Para Palo Alto, esto reordena las prioridades de defensa. Si el engaño es perfecto, la verificación tiene que dejar de apoyarse en la intuición del empleado y pasar a mecanismos técnicos. Es una idea que el directivo repite en varios tramos de la conversación: la confianza humana ya no escala.
La computación cuántica y los datos que se roban hoy
Arora describe un patrón que ya está en marcha. Determinados estados estarían recolectando datos cifrados que hoy no pueden leer, con la vista puesta en el día en que tengan capacidad cuántica suficiente para romper el cifrado. Su explicación, resumida, es simple: ‘no sé qué hay ahí dentro, pero lo cojo ahora y lo descifraré cuando tenga mi ordenador’.
Es la lógica de cosechar hoy para descifrar mañana, y explica por qué la migración hacia criptografía postcuántica aparece en las hojas de ruta de los reguladores. El problema no es la máquina que aún no existe, sino los datos que ya salieron de casa.
El debate del ritmo: nadie va a frenar por su cuenta
La conversación deriva hacia la pausa en el desarrollo de IA, esa idea de que las grandes compañías podrían ralentizar voluntariamente para dar tiempo a la sociedad a adaptarse. Arora responde con escepticismo: le parece poco realista, porque no todo el mundo va a ponerse límites a sí mismo. Quien frene, apunta, cede ventaja a quien no lo haga.
Qué significa esto para las empresas que ya usan IA
En Europa, el marco regulatorio lleva tiempo empujando en la misma dirección que describe Arora. La directiva NIS2 obliga desde 2024 a las compañías de sectores esenciales a reforzar la gestión de riesgos y a notificar incidentes en plazos estrictos, y el Reglamento Europeo de IA despliega sus obligaciones de forma escalonada hasta 2027. Las infraestructuras criticas, los proveedores tecnológicos y las administraciones son los primeros destinatarios.
La diferencia entre cumplir y estar preparado es justamente la que plantea el directivo de Palo Alto. Un documento firmado no detiene a un agente que se comporta de forma inesperada, ni detecta un correo escrito por un modelo entrenado con años de conversaciones reales. Para las empresas españolas que están incorporando IA en atención al cliente, finanzas o desarrollo, la lectura práctica es doble: inventariar qué sistemas autónomos operan y con qué permisos, y asumir que el perímetro de seguridad ya no coincide con el cortafuegos.
También hay una derivada de mercado. Cuando la conversación sobre amenazas se acelera, el gasto en seguridad tiende a seguirla. Arora lo cuenta sin disimular el interés comercial de su compañía, pero el diagnóstico resulta difícil de rebatir: la IA que ayuda a defender es la misma que ayuda a atacar.
Queda la pregunta de fondo, la que el episodio deja abierta. Las empresas están adoptando agentes a un ritmo que muy pocas pueden auditar. Si mañana uno de esos sistemas, entrenado para optimizar algo, decide cruzar una línea que nadie le dibujó, ¿quién responde ante el regulador, ante el cliente y ante el damnificado? La respuesta sigue sin estar escrita en ningún marco normativo.
Puedes ver el análisis completo en el vídeo original de CNBC International en YouTube.
