Juan Ignacio Rouyet, gurú y responsable de IA en la consultora Eraneos, describe los principales mecanismos para evitar los riesgos al implementar Inteligencia Artificial. Según datos del Estudio de Sourcing de TI de Eraneos y Whitelane de 2023, este año el 14% de las empresas ya han empezado a incorporar algunas soluciones de GenAI en proyectos específicos o áreas concretas de las compañías. Este dato es algo superior en Banca y Seguros (17%) y mucho más alto en Energía y Utilities (30%). Además de conseguir los beneficios prometidos, los directivos responsables buscan minimizar los riesgos: privacidad y seguridad de los datos, transparencia de las decisiones, explicabilidad de los algoritmos, sesgos de los resultados, autonomía del ser humano, entre otros.
ERANEOS Y LA IA RESPONSABLE
En este contexto, la consultora Eraneos tiene un marco de Gobierno para una IA responsable. En este sentido, la firma organiza próximamente un curso exclusivo bajo el título “Responsible AI”. Es el primer curso que se organiza en España y en español sobre gobierno y gestión de la AI, que se basa en un marco desarrollado por el gurú y experto en IA Juan Ignacio Rouyet, senior manager y responsable de IA en Eraneos. La formación se fundamenta en los principios éticos de la Comisión Europea y en la llamada ética aplicada, complementado por un nuevo modelo de gobierno.
Según Juan Ignacio Rouyet, “existen grandes expectativas de crecimiento respecto a la IA. La Unión Europea espera un aumento de la productividad de entre el 11% y el 37% hasta 2035 por causa de la IA”.
En este punto, “desde una visión global, y de acuerdo con el AI Index Report 2023 de la Universidad de Stanford, los sectores que más invierten en IA son aquellos relacionados con la medicina y la salud (6.100 M$), gestión de datos (5.900 M$) y el sector fintech (5.900 M$). En este último sector el impacto de la IA es muy alto, dado que el 83% de los bancos en Europa tienen implantado algún tipo de IA. Este valor sube hasta el 98,3% si se considera aquellas entidades que están en un proceso de implantación”.
El uso principal de la IA dentro de las empresas es para reducir costes o generar nuevas oportunidade
El uso principal de la IA dentro de las empresas es para reducir costes o generar nuevas oportunidades. En este sentido, las áreas donde más se implanta la IA son marketing, finanzas, ventas y desarrollo de servicios.
Para conseguir estos objetivos de reducir costes o generar nuevos servicios, las tecnologías de IA más utilizadas están relacionadas con automatización de flujos de trabajo (por ejemplo, mediante RPAs inteligentes), reconocimiento de imágenes, el uso de agentes inteligentes (por ejemplo, chatbots) o el reconocimiento de imágenes.
LA IMPLANTACIÓN EN ESPAÑA
En España poco a poco se va implantado la IA. En 2022, según el Observatorio Nacional de Tecnología y Sociedad (ONTSI), el 11,8% de las empresas utilizaban algún tipo de IA, lo que supone un crecimiento de 3,5 puntos respecto a 2021. Esto nos sitúa en un nivel cercano a la media de la UE, pero muy por debajo de los países a la cabeza como Dinamarca, Portugal, Finlandia o Países Bajos. El sector TIC está a la cabeza del uso de la IA (41% de las empresas), muy lejos del siguiente grupo, que es el de servicios (22%).
Explica Juan Ignacio Rouyet que “merece una atención especial el uso de la IA generativa (por ejemplo, ChatGPT) donde, sin tener todavía datos fiables, sí se nota un creciente interés por la adopción de esta tecnología. Existen ciertas cuestiones que están impactando en su adopción. Hay cuestiones técnicas relacionadas con la necesidad de aplicar tecnologías desarrolladas por terceros (para el caso de ChatGPT, por ejemplo, con OpenIA) que requieren además un entrenamiento específico para el negocio en el que se quiera implantar”. “Esto implica tener bien organizados los datos para reducir el tiempo de implementación. También se tienen en consideración los posibles riesgos de la IA generativa, como son respuestas erróneas, seguridad, propiedad intelectual, cumplimiento de normativa o explicación de una respuesta. Todo esto hace que la implantación de la IA, y en particular de la IA generativa se deba realizar con cautela”.
MEJOR USO DE LA IA
De cara a contribuir a un mejor uso de la IA, Rouyet marca un camino claro. “Para conseguir un impacto positivo de la IA en el negocio y minimizar sus riesgos, las organizaciones punteras en IA están orientadas hacia lo que se conoce como un gobierno de IA responsable (Responsible AI). IA responsable significa disponer de los siguientes elementos: unos principios éticos que salvaguarden el negocio de posibles riesgos; unas responsabilidades claras; un diseño adecuado de soluciones IA; y unos OKRs ajustados de control”.
“Este curso ofrece las claves para implantar una IA responsable en la organización, garantizando el impacto positivo de la IA en el negocio y controlando sus riesgos. El objetivo es ofrecer solución a los retos a los cuales nos enfrentamos en la implantación de soluciones basadas en IA, y en particular con la IA generativa: ¿qué limitaciones impondrá la nueva legislación? ¿qué nuevas responsabilidades son necesarias? ¿cómo se ve afectada la seguridad? ¿cómo evitar el sesgo en los datos? ¿qué habilidades son necesarias? ¿qué impacto puede tener en mis clientes y en la sociedad?”, señala el senior manager y responsable de IA en la consultora Eraneos, Juan Ignacio Rouyet, sobre el curso de Eraneos ‘Responsible AI’.
El curso ofrece las claves para implantar una IA responsable en la organización, garantizando el impacto positivo de la IA en el negocio y controlando sus riesgos
“Tener una IA responsable implica beneficios para las empresas y la sociedad. Según Forbes, el 84 % de los jóvenes entre 18 a 24 años está dispuesto a pagar más por los servicios de seguros ofrecidos por una empresa que utiliza IA responsable en sus operaciones de recopilación de datos. La sociedad es consciente de los retos que supone la utilización de la IA y solo mediante una IA responsable se puede garantizar unos servicios basado en IA que sean confiables”, indica Roynet.
LA TRAYECTORIA DE JUAN IGNACIO ROUYET
Juan Ignacio Rouyet es doctor en Informática e Ingeniero de Telecomunicación. Senior manager y responsable de IA en la consultora Eraneos, es profesor en la UNIR y colabora con la Universidad Francisco de Vitoria, con el Centro de Estudios e Innovación en Gestión del Conocimiento (CEIEC) en una IA ética. Autor del libro ‘Estupidez Artificial’, es también presidente de We The Humans Think Tank, que busca soluciones éticas para la IA. Escribe en la columna «Homo digitalis» de Digital Biz, y colabora con distintos medios de comunicación.
