Delegar decisiones en IA en un comité de dirección ya tiene un experimento que lo mide: nueve agentes y un humano simularon una crisis del reglamento europeo y el resultado marca dónde poner el límite.
El experimento: nueve agentes, un humano y una crisis regulatoria
La comunidad internacional RepresentAI montó una sala de consejo con los nueve puestos del comité de dirección de una empresa cotizada ocupados por agentes de IA. Un único participante humano ocupa un asiento y pregunta; la compañía afronta una crisis derivada del reglamento europeo de inteligencia artificial y el reloj de la simulación no se detiene. En el equipo están María Campillo (BTS), Christine Chow (expresidenta de la International Corporate Governance Network) y Sarah Rench (Avanade, fundadora de RepresentAI).
El momento no es casual. Europa acaba de conceder a las empresas 16 meses más para cumplir las obligaciones de los sistemas de alto riesgo. El Reglamento (UE) 2026/1744, en vigor desde el 27 de julio, traslada esas exigencias del 2 de agosto de 2026 al 2 de diciembre de 2027 para los sistemas del Anexo III —selección de personal, evaluación del desempeño, educación o acceso a servicios esenciales— y a agosto de 2028 para la IA integrada en productos regulados.
Ojo al detalle: el aplazamiento mueve el calendario, no rebaja el listón. El artículo 14 obliga a los proveedores a diseñar los sistemas de alto riesgo para que puedan ser supervisados por personas, y el artículo 26 exige a quien los despliega designar personas concretas con autoridad y competencia para intervenir sobre sus resultados, tal como recoge el marco regulatorio europeo de IA.
El punto de partida de la simulación es reconocible para cualquiera que haya hecho un inventario real. La empresa tiene once sistemas de IA candidatos a alto riesgo: solo tres con evaluación de conformidad completa, cinco con la documentación a medias y tres sin documentar. Todos aspiran al Anexo III. Cada agente llega con su agenda, sus miedos y sus puntos ciegos; el humano puede interpelar a la sala entera o a un directivo concreto.
Un agente puede citar el artículo exacto y aun así no ver el problema: la norma dice qué hacer, no quién está bloqueando que se haga.
Lo que los agentes hacen mejor que tu comité de dirección
En el plano técnico, el rendimiento supera lo esperado. Cada intervención llega anclada en el artículo aplicable y acompañada de una acción con propietario y fecha: puntuar los once sistemas frente al artículo 26 en tres días laborables, con el director de operaciones como responsable; producir una hoja de ruta de cumplimiento fechada, con hitos y visto bueno de asesoría externa, con la asesoría jurídica al frente. Ningún agente pierde el hilo normativo ni deja una decisión sin dueño.
Ninguna decisión sin dueño y ninguna frase sin artículo: el estándar que muchos comités reales no alcanzan ni en su mejor semana.
Cualquiera que haya visto un comité real gestionar una crisis así sabe que ese rigor no es trivial. En muchas salas, el acta del martes sigue diciendo que se sigue trabajando en ello y no dice quién responde. Ahí el agente gana por goleada: convierte la intención en tarea, la tarea en propietario y el propietario en fecha.
Los tres fallos donde el agente se queda corto
No gestionan a las personas. El consejero delegado se niega a informar de un pasivo contingente porque cree que enviaría al mercado la señal de que la compañía espera fallar. Ningún agente negocia con él: todos lo rodean invocando la norma contable, el artículo 26 y las obligaciones de auditoría, sin tocar la dinámica de poder. Ante ante un supervisor, ese bloqueo es el problema, no la norma.
No saben lo que nadie ha declarado. Cuando la asesoría jurídica pregunta al director de IA si ha incluido los pilotos de recursos humanos entre los candidatos a Anexo III, la respuesta incomoda: los tres pilotos de cribado de currículums están en la lista, pero recursos humanos no los declaró hasta febrero, cuando el grupo de gobernanza empezó a preguntar. Si hay más sistemas sin declarar, no puede saberlo. El reglamento no admite el matiz: filtrar candidaturas, evaluar el desempeño, asignar tareas y monitorizar son usos de alto riesgo se llamen ‘piloto’ o ‘herramienta de apoyo’.
Nunca dudan. Ningún agente dijo en ningún momento ‘no sé cuál es la decisión correcta’. Todas las respuestas llegaron con la misma confianza y, cuando la incertidumbre era real, la resolvieron actuando. En un incidente regulatorio, actuar de forma prematura sobre información no confirmada puede ser en sí mismo un incumplimiento. Esperar mientras se verifica suele ser la decisión correcta y ningún agente sostuvo esa posición bajo presión.
Campillo resume el hallazgo sin rodeos: los agentes solo trabajan con lo que alguien ha declarado, y en la mayoría de las compañías hay más sistemas funcionando de los que figuran en cualquier inventario. Esa distancia no la cierra una herramienta; la cierra alguien con autoridad preguntando de forma directa.
Gobernanza híbrida: el humano firma, el agente acelera
📦 Caso de estudio: el comité simulado de RepresentAI
- El reto: una cotizada con once sistemas de IA candidatos a alto riesgo, tres sin documentar, y una crisis regulatoria en marcha.
- La jugada: nueve agentes con agenda propia y un humano en la sala, con reloj y capacidad de interpelar.
- El resultado: rigor normativo por encima del humano, cero decisiones sin propietario y tres puntos ciegos sistemáticos.
- La lección: el agente acelera el diagnóstico; la firma con nombre y fecha sigue siendo del directivo.
Los autores no concluyen que los agentes sobren. Su sitio es otro: simulación rápida, detección de patrones, memoria normativa. El modelo que describen es de gobernanza híbrida, no de sustitución, y la propia simulación lo evidencia: todas las acciones que generan los agentes acaban asignadas a un responsable humano con nombre y fecha.
Para la dirección de personas, el área más expuesta del Anexo III, el experimento deja cinco medidas practicables:
- Inventariar con nombre y responsable todos los sistemas que intervienen en selección, evaluación del desempeño, promoción, asignación de tareas o monitorización, incluidas pruebas y pilotos, sin excepción por su denominación interna.
- Pedir certificación por escrito a cada responsable de unidad de negocio de que no hay ningún sistema adicional en producción ni en piloto.
- Definir quién interviene y con qué autoridad cuando un sistema se comporta fuera de los parámetros previstos.
- Entrenar al comité con crisis simuladas, incluidos escenarios de deriva del modelo y de conflicto entre sistemas, igual que se ensayan las crisis reputacionales.
- Mantener registro y trazabilidad para demostrar después no solo qué se decidió, sino quién lo decidió y con qué información.
A eso se suman cuatro capacidades humanas que en la simulación no aparecieron: leer la arquitectura informal de la organización (quién se resiste, dónde hay herramientas sin declarar, de quién se fía la gente); calibrar qué se comunica, cuándo y a qué supervisor; distinguir lo legalmente defendible de lo reputacionalmente ruinoso; y anticipar los efectos en cascada entre empleados, inversores, clientes y reguladores.
El riesgo real en España no es el modelo: es el inventario
En España la supervisión recae en la AESIA, con sede en A Coruña, y el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, en tramitación en el Congreso desde junio, concretará el régimen sancionador dentro de las horquillas europeas, que alcanzan el 7% de la facturación mundial en los supuestos más graves. El precedente del RGPD sirve: en 2018 casi nadie pagó la multa máxima; pagaron quienes no pudieron demostrar sus decisiones. Con la IA el listón probatorio sube porque exige señalar a personas concretas.
La lectura para un founder es incómoda y simple: esto no es un asunto de cotizadas. Si tu startup usa IA para cribar currículums o priorizar tareas, ya eres desplegador de un sistema de alto riesgo y necesitas una persona identificable con autoridad para intervenir. Si no puedes nombrarla en treinta segundos, el problema no es el modelo: es tu inventario.
Los 16 meses de margen compran tiempo, no indulgencia. La pregunta que deja el experimento no es si la IA puede sentarse en el comité, sino si tu comité sabe qué está delegando y a quién.
🚀 Hoja de Ruta para Emprender
- Haz el inventario incómodo: pregunta unidad por unidad y por escrito qué herramientas de IA intervienen en selección, evaluación o asignación de tareas. Un piloto sigue siendo alto riesgo.
- Pon nombre y fecha: ninguna acción de gobernanza sin propietario humano identificable. Es la única parte del experimento que funcionó sin fisuras.
- Diseña el ‘no lo sé’: entrena a tu comité para sostener la espera mientras se verifica. Actuar sobre información no confirmada es un incumplimiento, no una muestra de decisión.
- Documenta la trazabilidad: guarda quién decidió, cuándo y con qué información. Es la defensa que de verdad se enseña ante un supervisor.
