Meta advierte a polarizadores y creadores de mentiras o fake news en sus redes con el fin de variar resultados electorales que va a por ellos y ha hecho público que vigilará los contenidos falsos, cobre todo los generados por la Inteligencia Artificial (IA), y que bloqueará los nuevos anuncios políticos durante las últimas semanas antes de las elecciones. El equipo de Meta España ha remitido a MERCA2 a las decisiones tomadas por la central estadounidense a este respecto, pero no niegan que las medidas se tomen en nuestro país y cualquier otro lugar del mundo en el que haya procesos electorales abiertos.
La empresa matriz de Facebook ha anunciado que planea identificar más imágenes generadas por IA antes de las próximas elecciones, y confirmado que están trabajando con socios de la industria en «estándares técnicos comunes para identificar contenido de IA, incluidos video y audio. En los próximos meses, etiquetaremos las imágenes que los usuarios publican en Facebook, Instagram y Threads cuando podamos detectar indicadores estándar de la industria. que son generadas por IA».
Así, aunque no van a «censurar» directamente a los políticos de todo el mundo, y no verificará las publicaciones originales creadas por estos, etiquetará las publicaciones generadas por IA sin importar quién las comparta. La compañía también ha asegurado que pronto comenzará a exigir que sus usuarios revelen cuándo se realizan publicaciones de video o audio realistas con IA. Si no lo hacen, «la gama de sanciones que se aplicarán abarcará toda el abanico, desde advertencias hasta la eliminación de la cuenta».
ELECCIONES QUE INCLUYEN LAS ESPAÑOLAS
Así se ha expresado el presidente de asuntos globales de Meta, Nick Clegg, que ha querido tranquilizar al mundo ante un año electoral de vital importancia en todo el planeta. Además de las elecciones estadounidenses, cuya carrera ya ha comenzado con la selección de candidatos de los dos partidos que concurren estado por estado, se van a celebrar comicios en India, Sudáfrica e Indonesia.
solo en España, se irá a las urnas en las comunidades autónomas de Galicia, este próximo 18 de febrero, y pronto se conocerá la convocatoria de las elecciones Vascas, y quizá también las catalanas
En cuanto a Europa y España, el próximo mes de junio se celebrarán las elecciones europeas, que involucran a los 27 estados que componen la UE y, solo en España, se irá a las urnas en las comunidades autónomas de Galicia, este próximo 18 de febrero, y pronto se conocerá la convocatoria de las elecciones Vascas, y quizá también las catalanas.
Glegg, que como se recordará fue viceprimer ministro del Reino Unido en el gobierno liderado por David Cameron, aseguró que el gigante de las redes está adoptando el nuevo enfoque durante este año, «el cual se llevarán a cabo una serie de elecciones importantes en todo el mundo. Durante este tiempo, esperamos aprender mucho más sobre cómo las personas crean y comparten contenido de IA, qué tipo de transparencia la gente considera más valiosa y cómo evolucionan estas tecnologías. Lo que aprendamos informará las mejores prácticas de la industria y nuestro propio enfoque en el futuro».
META, A POR ‘FAKES’ HECHAS CON CUALQUIER IA
Para conseguir limpiar de mentiras políticas sus redes, Meta va a empezar a etiquetar más publicaciones creadas utilizando herramientas de inteligencia artificial como parte de un esfuerzo más amplio para evitar que se propague información errónea y engaño en Facebook, Instagram y Threads a lo largo de todo el año electoral tan crítico.
Para ello se ayuda de otras empresas tecnológicas con similares para identificar las falsedades creadas con IA para incluir marcas de agua invisibles y metadatos a las imágenes cuando se crean. También construyen sistemas de software para detectar estos marcadores invisibles y poder etiquetar el contenido creado por Inteligencia Artificial generativa incluso si está hecha con software de la competencia, incluida la IA de Google (Gemini), ChatGPT 4 de Open AI, Copilot de Microsoft, Adobe o Shutterstock.
pronto comenzará a exigir que sus usuarios revelen cuándo se realizan publicaciones de video o audio realistas con IA. Si no lo hacen, «la gama de sanciones que se aplicarán abarcará toda el abanico, desde advertencias hasta la eliminación de la cuenta
En este sentido, Meta ya ha trabajado con grupos como Partnership on AI para aprovechar las iniciativas de autenticidad de contenido existentes. Adobe lanzó recientemente el sistema Content Credentials, que coloca información de procedencia del contenido en los metadatos de las imágenes, y Google extendió su marca de agua SynthID a archivos de audio, después de lanzarla en versión beta para imágenes.
UN DESAFÍO PARA LA DEMOCRACIA
La desinformación ha sido un desafío para los votantes y candidatos durante años a través de las redes sociales desde que estás aparecieron, a partir de la primera década de este siglo, en las que las noticias falsas crecieron en incidencia constantemente. Esta tendencia se ha visto impulsada por el surgimiento de herramientas de inteligencia artificial generativa que pueden crear imágenes, textos y audios falsos y muy convincentes.
En principio el sistema de la empresa creada por Mark Zuckerberg solo podrá detectar imágenes generadas por IA creadas por herramientas de otras empresas, no audio ni vídeo. Las imágenes generadas por empresas que no siguen los estándares de la industria, o aquellas a las que se les han quitado los marcadores, también se perderán, aunque Meta está trabajando en una forma separada para detectarlas automáticamente.
Con el tiempo, a medida que internet se inunde de material generado por IA, la industria necesitará abordar el problema desde el otro lado, es decir, etiquetando también los medios legítimos a modo acreditativo. Según el director de Meta, «necesitaremos tener un debate en toda la sociedad, o ciertamente en toda la industria, sobre el otro extremo del telescopio, que es cómo señalar a los usuarios la veracidad o autenticidad del contenido no sintético».
a medida que internet se inunde de material generado por IA, la industria necesitará abordar el problema desde el otro lado, es decir, etiquetando también los medios legítimos a modo acreditativo
Hay grandes ejemplos de cómo pueden influir estas mentiras que no lo parecen, y de la responsabilidad de las grandes plataformas por favorecer, o no frenar, estas informaciones falsas. Esto les generaban serios problemas de credibilidad y mala imagen corporativa, al señalarlas como consentidoras a la hora de permitir desviaciones en resultados electorales, debilitar y desacreditar la democracia, y servir de base para un mundo peor.
El mes pasado, un mensaje de audio manipulado del presidente estadounidense Joe Biden alarmó a los expertos en desinformación, y muchos advirtieron que el contenido generado por IA podría desempeñar un papel fundamental en las próximas elecciones si no se etiqueta o elimina rápidamente. Clegg afirmó ser optimista, ya que creía que eso no sucederá, dado el nivel de atención que se presta al tema, aunque ha reconocido que quizá no puedan limpiar de falsedades sus redes completamente, «lo cual no es ninguna escusa para la inacción», afirmó.
