Facebook ha anunciado los detalles de los pasos que está dando para eliminar el contenido terrorista o relacionado con el terrorismo.
El movimiento se produce después de la creciente presión de los gobiernos para que las empresas de tecnología hagan más para eliminar el material como la propaganda con contenido terrorista.
En una serie de artículos publicados por altos ejecutivos, Facebook dice que quiere ser más transparente sobre el trabajo que está llevando a cabo.
La compañía ha afirmado que está usando inteligencia artificial para detectar imágenes, videos y textos relacionados con contenido terrorista o relacionados con el terrorismo, así como grupos de cuentas falsas.
«Queremos encontrar el contenido terrorista inmediatamente, antes de que la gente de nuestra comunidad lo pueda ver», dijo.
No hay espacio seguro
La capacidad del llamado Estado Islámico para usar la tecnología para radicalizar y reclutar gente ha planteado preguntas importantes para las grandes compañías tecnológicas.
Han sido criticados por tenerlos en las plataformas siendo estas utilizadas para difundir la ideología extremista e inspirar a la gente a llevar a cabo actos de violencia extrema.
Los gobiernos, y el Reino Unido en particular, han estado presionando en los últimos meses para que se tomen decisiones serias, y en toda Europa se ha avanzado hacia la legislación o la regulación.
A principios de la semana pasada en París, el primer ministro británico y el presidente de Francia lanzaron una campaña conjunta para asegurar que Internet no pudiera ser utilizado como un espacio seguro para terroristas y criminales.
Entre las cuestiones que se están examinando, se dijo, estaba creando una nueva regulación para las empresas tecnológicas si no se eliminan ciertos contenidos, que podrían incluir multas.
Facebook dice que está comprometido buscar nuevas fórmulas para encontrar y eliminar el material con contenido terrorista, y ahora quiere hacer más que hablar de ello.
«Queremos ser muy transparentes con nuestra comunidad sobre lo que estamos tratando de hacer para asegurarnos de que Facebook es un ambiente realmente hostil para los grupos terroristas», afirmó Monika Bickert, directora de gestión de políticas globales en Facebook.
Una de las críticas que hacen los funcionarios de seguridad británicos es la medida en que las empresas confían en otras personas para denunciar el contenido extremista en lugar de actuar de manera proactiva.
Facebook ha anunciado previamente que está agregando 3.000 empleados para revisar el contenido marcado por los usuarios.
Pero también afirma que más de la mitad de las cuentas que retira son las que encuentra con contenido terrorista.
Dice que ahora también está utilizando las nuevas tecnologías para mejorar su trabajo proactivo.
«Sabemos que podemos hacer mejor en el uso de la tecnología, y específicamente la inteligencia artificial, para detener la propagación del contenido terrorista en Facebook», dice la compañía.
Análisis automático
Un aspecto de la tecnología novedosa de la que habla por primera vez es la correspondencia de imágenes.
Si alguien intenta cargar una foto o video terrorista, los sistemas buscan ver si esto coincide con contenido extremista conocido anteriormente para eliminarlo.
Una segunda área es experimentar con inteligencia artificial para entender el texto que podría estar defendiendo el terrorismo.
Se trata de analizar texto previamente eliminado para ensalzar o apoyar a un grupo como Estado Islámico y tratar de elaborar señales basadas en el texto para saber si este contenido puede ser propaganda terrorista.
Ese análisis entra en un algoritmo que aprende cómo detectar posts similares.
El aprendizaje automático debe implica que este proceso mejorará con el tiempo.
La compañía dice que también está utilizando algoritmos para detectar «clusters» de cuentas o imágenes relacionadas con contenido terrorista.
Esto implicará buscar señales como si una cuenta es amigo de un gran número de cuentas que han sido deshabilitadas para apoyar el terrorismo.
La compañía también dice que está trabajando en maneras de mantener el ritmo con los «reincidentes» que crean cuentas solo para publicar material terrorista y buscar formas de eludir los sistemas y controles ya existentes.
«Nuestra tecnología va a seguir evolucionando justo cuando vemos que la amenaza del terror continúa evolucionando en la red», dijo la Sra. Bickert.
«Nuestras soluciones tienen que ser muy dinámicas».
Uno de los principales retos en la automatización del proceso es el riesgo de eliminar material relacionado con el terrorismo, pero no apoyarlo, como artículos de noticias que se refieren a un video de propaganda de la ISIS que podría incluir texto o imágenes.
Mientras que cualquier imagen de abuso sexual infantil es ilegal y puede ser eliminada, una imagen relacionada con el terrorismo, como un miembro de ISIS que agita una bandera, puede ser usada para glorificar un acto en un contexto o ser usada como parte de un contra-extremismo.
«El contexto es todo», dijo la Sra. Bickert.
Atrapado
La empresa dice que sus algoritmos aún no son tan buenos como las personas en la comprensión del contexto que ayuda a distinguir entre las diferentes categorías.
Facebook dice que ha aumentado su equipo de especialistas para que ahora tenga 150 personas trabajando específicamente en la lucha contra el contenido terrorista, incluyendo a expertos académicos en antiterrorismo, ex fiscales, ex agentes y analistas de la ley e ingenieros.
Persisten los retos. Unos minutos después de crear una cuenta con un nombre inventado, pude encontrar versiones completas de videos de propaganda del ISIS que incluían la decapitación de rehenes occidentales.
Los críticos sostienen que los desafíos pueden ser enormes en un sitio con dos mil millones de usuarios, pero la compañía gana miles de millones de dólares a través del contenido de su sitio y podría dedicar más recursos, y además de sus mejores ingenieros, para lidiar con el problema del contenido terrorista.
La compañía dice que ha comenzado a enfocar sus «técnicas más vanguardistas» para combatir el problema y claramente ahora cree que hay que ver cómo actúan.
