Aunque desde la Unión Europea se ha priorizado la información sobre las redes sociales, la nueva EU Kids Act está diseñada también para controlar el uso de los chatbots como My AI de Snapchat, Character.ai o ChatGPT. No es un paso menor, sobre todo por la velocidad de expansión que han demostrado estas aplicaciones, hasta el punto de que han pasado de un pequeño nicho a ser consideradas una tecnología clave en la vida de muchos ciudadanos.
Pero el nuevo proyecto de ley apunta sobre todo a los más jóvenes. El objetivo es evitar que estos creen codependencia emocional alrededor de las plataformas de IA generativa y, en particular, de los chatbots. En un momento en que cada vez hay más aplicaciones que prometen al usuario crear «una novia virtual», parece una medida necesaria.
Para ello, se prohíbe diseñar o programar sistemas que simulen emociones o relaciones interpersonales destinados a crear dependencia afectiva o psicológica en los menores, y se exige desactivar por defecto el historial persistente de interacciones pasadas con el menor, evitando que la IA acumule datos sensibles o refuerce patrones de interacción problemáticos a lo largo del tiempo.
No solo eso, sino que se insiste en que las plataformas de redes sociales como X (antes conocida como Twitter, donde está presente Grok) no deben activar de forma automática sus chatbots para usuarios menores de edad. En esta situación, la industria debe tomar medidas no solo para limitar estas capacidades, sino también para ser capaz de reconocer la edad de los usuarios de una inteligencia artificial sin violar los reglamentos de privacidad de la Unión Europea. Es un nuevo reto que llega al mismo tiempo que las grandes empresas del sector hablan de la necesidad de una autorregulación en el desarrollo de esta tecnología.
El uso de los chatbots sigue creciendo entre los menores de edad
Lo cierto es que, según los datos del más reciente informe de la empresa especializada Qustodio, con datos al cierre de 2025, las plataformas del sector han visto cómo sube su número de usuarios a un ritmo vertiginoso, y en particular los usuarios de las edades que plantea la ley. El uso de la aplicación ChatGPT entre menores se triplicó en solo un año, pasando del 9 % al 30 % a nivel global (y alcanzando un 41 % de acceso vía web).
Aunque la mayoría utiliza los chatbots para apoyo escolar y hacer los deberes (55 %) o resolver dudas (48 %), entre un 17 % y un 18 % de los adolescentes admite utilizarlos para chatear, conversar o buscar apoyo social y emocional. El principal temor de las familias frente a la IA es el riesgo de que los menores desarrollen una dependencia excesiva (76 %), seguido de la posibilidad de hacer trampas en el ámbito académico (64 %), la difusión de información falsa (52 %) y el desarrollo de relaciones no saludables con los bots (44 %).
Una carrera a contrarreloj para los dueños de ChatGPT
Pero mientras la preocupación es inmediata, empresas como OpenAI —desarrolladora de ChatGPT— y la propia Google se encuentran en una carrera a contrarreloj. El documento, que debería ser aprobado en los próximos meses, cuenta con un período de gracia de 12 meses desde el día en que se firme el reglamento. No es un plazo menor, pero tampoco es infinito, sobre todo porque países como España se plantean sus versiones locales del mismo reglamento.
Una vez transcurridos esos 12 meses, la Comisión Europea activará un régimen de ejecución rápida (expedited enforcement regime) que reduce los plazos administrativos a 30 días para fijar conclusiones preliminares y a 90 días para adoptar decisiones sancionadoras definitivas.
El texto también reconoce el derecho de los tutores y usuarios a presentar sus propias denuncias contra la empresa encargada del servicio que haya violado el reglamento. Además, se asume que las empresas más grandes del sector tendrán que pagar una tasa de un máximo del 0,02 % de sus ingresos para cubrir el coste de la vigilancia de sus aplicaciones.
Multas millonarias para las aplicaciones
Lo cierto es que el castigo a las empresas que violen esta nueva normativa no será menor. El coste de una sanción puede alcanzar el 6 % del volumen de negocios anual global en el ejercicio financiero previo a la sanción. A esto se suma que, cuando la Comisión Europea inicie expedientes por posible incumplimiento, la investigación se tramitará mediante un procedimiento urgente que contempla la notificación de conclusiones preliminares en 30 días hábiles y la adopción de una decisión sancionadora final en un plazo de 90 días hábiles.
Otras sanciones por violaciones de las normas de privacidad pueden alcanzar el 4 % del volumen de negocio de la empresa, con un máximo de 20 millones de euros. El reglamento no pone límite al total de sanciones que se pueden aplicar a una empresa, por lo que si acumulan denuncias similares durante la investigación, estos importes pueden acabar siendo mucho más altos.
