Los negociadores del Parlamento Europeo y del Consejo, es decir, los gobiernos han logrado la madrugada de este sábado, tras más de 35 horas de negociación, cerrar un acuerdo histórico para fijar las primeras reglas con las que limitar los riesgos de la Inteligencia Artificial (IA).
«¡Acuerdo!». Esta ha sido la palabra que con entusiasmo ha escrito en las redes sociales el comisario de Industria y Servicios Digitales, el liberal francés Thierry Breton, junto a un gráfico para destacar que la Unión Europea es la única región del mundo con una regulación, la llamada IA Act.
Los negociadores del Parlamento Europeo y del Consejo iniciaron el miércoles la que estaba llamada a ser la última ronda de negociación para un acuerdo que finalmente no ha llegado hasta última hora del viernes, tras superar los últimos escollos respecto a la vigilancia biométrica y el uso por parte de las fuerzas de seguridad.
Otra de las claves ha sido cómo introducir reglas específicas para los modelos fundacionales, como las plataformas ChatGPT o DALL-E, que vieron la luz después de que la Comisión Europea presentara su primera propuesta de regulación, por lo que este capítulo se ha ido desarrollando en el curso de la negociación.
El objetivo de la nueva regulación europea es fijar estándares de seguridad y de derechos fundamentales que eviten que la tecnología se use con fines represivos, de manipulación o discriminatorios; pero sin que se traduzca en una hiperregulación que lastre la competitividad de la Unión Europea, en opinión de los negociadores.
REGULAR LA IA PARA EL BIEN HUMANO
Con el acuerdo político, la UE avanza hacia convertirse en la primera gran potencia mundial en promulgar leyes que rijan la Inteligencia Artificial. El acuerdo de la madrugada del viernes al sábado entre los países de la UE y los miembros del Parlamento Europeo se produjo después de casi 15 horas de negociaciones que siguieron a un debate de casi 24 horas el día anterior.
Quedan todavía muchos detalles por discutir a lo largo de los próximos días pero, mientras tanto, los responsables europeos, con el comisario Breton a la cabeza, sienten que la aprobación es un acontecimiento. «Europa se ha posicionado como pionera, comprendiendo la importancia de su papel como emisor de normas globales. Creo que este es un día histórico», afirmó el comisario en sus declaraciones después de finalizado el proceso.
El acuerdo al que se ha llegado introduce normas preventistas puesto que requiere que los modelos básicos como ChatGPT y los sistemas de inteligencia artificial de propósito general (GPAI) cumplan con las obligaciones de transparencia antes de salir al mercado. Estos incluyen la elaboración de documentación técnica, el cumplimiento de la ley de derechos de autor de la UE y la difusión de resúmenes detallados sobre el contenido utilizado para la formación y entrenamiento de las distintas IAs.
De esta manera, los modelos básicos de alto impacto con riesgo sistémico tendrán que realizar evaluaciones de modelos, evaluar y mitigar esos riesgos, realizar pruebas adversas, informar a la Comisión Europea sobre incidentes graves, garantizar la ciberseguridad e informar sobre su eficiencia energética.
los consumidores tendrán derecho a presentar quejas y recibir explicaciones y las multas por infracciones podrían oscilar entre 7,5 y los 35 millones de euros, o el 1,5% y el 7% de la facturación global
Sobre la controvertida vigilancia biométrica, finalmente se ha acordado que los gobiernos sólo podrán utilizarla en tiempo real, en espacios públicos, en casos de víctimas de ciertos delitos, para la prevención de amenazas genuinas, presentes o previsibles, como ataques terroristas, y en casos de búsqueda de personas sospechosas de los delitos más graves.
El acuerdo pone freno a la manipulación cognitiva conductual al prohibirla, así como la eliminación no selectiva de imágenes faciales de Internet o imágenes de CCTV (Closed Circuit Televisión o en español Circuito Cerrado de Televisión), la puntuación social y los sistemas de categorización biométrica para inferir creencias políticas, religiosas, filosóficas, orientación sexual y raza.
Según la regulación aprobada, los consumidores tendrán derecho a presentar quejas y recibir explicaciones significativas, mientras que las multas por infracciones podrían oscilar entre 7,5 millones de euros (8,1 millones de dólares) o el 1,5% de la facturación global y 35 millones de euros o el 7% de la facturación global.
LOS DESARROLLADORES, CONTRA LA REGULACIÓN
Pese a la «bondad» a favor de la prevención del comportamiento contrario a alguno de los derechos de los ciudadanos europeos, como el de la intimidad y la protección de datos, la no discriminación al aplicar determinados sesgos y la protección de los derechos de autor, la regulación de Bruselas ha sido criticada por los desarrolladores de esta tecnología, por limitar según ellos el desarrollo pleno de su industria en territorio comunitario.
El grupo empresarial DigitalEurope ha criticado las normas acordadas y las ha calificado como una carga más para las empresas, además de otras leyes recientes. «Tenemos un acuerdo, pero ¿a qué costo? Apoyamos plenamente un enfoque basado en el riesgo basado en los usos de la IA, no en la tecnología en sí, pero el intento de último minuto de regular los modelos básicos ha puesto esto patas arriba«, aseguró la directora general de este grupo de empresarios, Cecilia Bonefeld-Dahl.
Muchos internautas a favor de la no regulación de esta tecnología disruptiva, comparable a la aparición de la imprenta o la máquina de vapor por cómo está cambiando y cambiará en el futuro a la sociedad, han señalado como negativa la regulación para el desarrollo de los negocios y el avance europeo frente a otras regiones, al contestar al tuit publicado en X por el comisario Breton al alcanzar el acuerdo.
«¿Por qué se enorgullece de hacer que la UE sea cada vez más irrelevante a nivel mundial mediante una regulación excesiva?», le preguntaba un tuitero mientras que otro comentaba, «Según mi experiencia, muchos políticos y burócratas de la UE creen genuinamente que la regulación es un requisito previo para la innovación. Es tan ridículo como triste».
«es difícil entusiasmarse con una ley que, por primera vez en la UE, ha tomado medidas para legalizar el reconocimiento facial público en vivo»
No obstante, al margen de hacker y desarrolladores, algunos del otro lado del Atlántico, muchos otros ciudadanos se han mostrado a favor del acuerdo alcanzado, e incluso no creen que haya sido lo suficiente ambicioso, como ha sido el caso del grupo de derechos de privacidad European Digital Rights, que fue bastante crítico.
Tal y como ha expresado su asesora política principal, Ella Jakubowska, a Reuters, «es difícil entusiasmarse con una ley que, por primera vez en la UE, ha tomado medidas para legalizar el reconocimiento facial público en vivo. Aunque el Parlamento luchó duramente para limitar los daños, el paquete general sobre vigilancia biométrica y elaboración de perfiles es, en el mejor de los casos, tibio».
No obstante, Breton y el resto del equipo europeo se han mostrado felices tras conseguir este acuerdo inicial para una legislación que se espera entre en vigor a principios del próximo año, una vez que ambas partes la ratifiquen formalmente, y que debería aplicarse dos años después, en 2026.
No hay que perder de vista que los gobiernos de todo el mundo están tratando de equilibrar las ventajas de la tecnología, que puede entablar conversaciones similares a las de los humanos, responder preguntas y escribir códigos informáticos, con la necesidad de establecer barreras de seguridad. La ley de la UE podría convertirse en el modelo para otros gobiernos y una alternativa al enfoque laxo de Estados Unidos y las reglas provisionales de China.
Las ambiciosas normas europeas sobre IA se producen mientras empresas como OpenAI, en la que Microsoft es inversor, siguen descubriendo nuevos usos para su tecnología, lo que genera aplausos y preocupaciones. El propietario de Google, Alphabet, lanzó el jueves un nuevo modelo de inteligencia artificial, Gemini, para rivalizar con OpenAI.
