Google / Margaret Mitchell
Margaret Mitchell, investigadora para el comité de ética en Inteligencia Artificial de Google, anunció haber sido despedida el pasado 19 de febrero.

Si bien el pasado diciembre un terremoto sacudía las entrañas de Google en California tras el despido de la colíder del equipo de ética para Inteligencia Artificial (IA) Timnit Gebru, la salida de la investigadora y fundadora del mismo comité Margaret Mitchell anunciada por ella misma el viernes 19 de febrero ha provocado fuertes reacciones dentro y fuera del gigante tecnológico. Con un escueto “Estoy despedida” publicado en Twitter por la empleada, Mitchell encontraba la conclusión a cinco semanas de incertidumbre al tener bloqueada su cuenta de acceso. Ha quedado en evidencia que a Google se le ha atragantado su comité ético, con varias voces internas afirmando que las conclusiones a las que estaban llegando sus investigaciones no le venían bien al buscador.

Mientras que el despido de Gebru ocurría después de que esta enviara un estudio en el que hablaba del “impacto medioambiental de largos modelos” computacionales y de deficiencias en modelos de lenguaje de la compañía que causarían marginación a colectivos minoritarios, la expulsión de Mitchell hace solo unos días ha sido justificada con que la empleada extrajo archivos sensibles de la compañía e información de otros trabajadores, violando las políticas de seguridad de Google. Mitchell habría intentado rastrear emails que evidenciaran una discriminación a su excompañera Gebru.

Sin embargo, y pese a que la tecnológica ha asegurado tener motivos legítimos y firmes para facilitar la salida de estas dos empleadas, tanto los comentarios de las propias afectadas como fuentes internas de la empresa revelan que Google no acaba de conciliarse con las investigaciones éticas sobre sus productos. El forzado despido de Timnit Gebru, después de que esta anunciase que no renovaría su contrato si Google no garantizaba unas serie de condiciones y su jefe le contestase que aceptaban su “renuncia” como si fuese inmediata, levantó dudas entre trabajadores sobre diversidad racial y de género y sobre censura dentro la compañía, siendo Gebru una científica negra y etíope.

Margaret Mitchell, por su parte, fue una de las personas que apoyó a Gebru al momento de su despido, opinando en una carta abierta que “el despido parece haber sido impulsado por los mismos fundamentos de racismo y sexismo que nuestros sistemas de inteligencia artificial, cuando están en las manos equivocadas, tienden a absorber”. Tras el despido de Mitchell, las tablas se dan la vuelta y es en esta ocasión Gebru quien ha apoyado a su excompañera en redes: “En retrospectiva, es * asombroso * lo mal que Google está manejando lo de @timnitGebru y su equipo”, ha retuiteado la científica.

Así, el comité de ética de IA se revela en profunda crisis, desatando la indignación de algunos empleados y trabajadores de la industria tecnológica en general. Jeff Dean, jefe de Inteligencia Artificial en Google, se ha disculpado por la mala imagen que pudo dar el despido de Gebru, sobre todo entre la comunidad negra. Aun así, unos 2695 empleados de Google críticos con el despido le exigen mayor transparencia. Mitchell también se posicionó crítica respecto a Dean. En este contexto, el nuevo despido parece confirmar un problema irresuelto que se ha hecho aún mayor. “La Dra. Gebru se negó a someterse a un sistema que le exigía menospreciar su integridad como investigadora y degradarse por debajo de sus compañeros investigadores”, dice la carta que escribió Mitchell sobre el despido Gebru.

GOOGLE INICIA UNA REESTRUCTURACIÓN DE SU COMITÉ

Google está ejecutando una gran reestructuración de este comité de ética, por la que el control de este equipo junto a otros relacionados con Inteligencia Artificial pasan ahora a manos de la vicepresidenta de Ingeniería de la compañía, Marian Croak, en un ejercicio de centralización. Se trata de una ejecutiva e informática de 66 años que se unió a Google en 2016, y que responderá directamente ante Jeff Dean en el apartado de IA. Con este cambio, la empresa tratará de estabilizar un comité que ha acabado en llamas tras los dos despidos de sus líderes.

Croak, para quien no es esta la primera vez que su empresa la utiliza para apagar fuegos, ha “decepcionado” a Timnit Gebru, al ser Croak también una mujer negra. “Mi mayor decepción es que Marian Croak legitima esto”, dijo la extrabajadora en Twitter.

“Tendré mucho más que decir sobre esto más adelante. Pero anunciar una nueva organización por una mujer negra como si todas fuéramos intercambiables mientras acosan, aterrorizan y bombardean a mi equipo y hacemos absolutamente CERO para reconocer y reparar el daño que se ha hecho está más allá del gaslighting”.

En un vídeo publicado por Google, Croak ha admitido que existe una gran tensión en estos momentos frente al apartado ético: “Hay muchos conflictos en este momento dentro del ámbito y, a veces, puede ser polarizante. Y lo que me gustaría hacer es que la gente tenga la conversación de una manera más diplomática, quizás, de lo que la estamos teniendo ahora, para que podamos realmente avanzar en este campo”, dice la directiva.

Margaret Mitchell ha lamentado en Twitter haberse “enterado así”, es decir, por la prensa, de la reorganización del comité: “Estoy muy contenta por toda la confianza que han reconstruido. Parece que me han borrado por completo y mi equipo ha sido tomado”, escribió.

Por otro lado, la directiva Megan Kacholia ha sido destituida de algunas funciones: vicepresidenta de Google Research, Kacholia estaba en el punto de mira al ser también duramente criticada tras el despido de Gebru, al ser ella quien pidió a la científica a retirar el reporte que publicó. En este sentido, el equipo ético firmó una carta de seis páginas en el que pedían la dimisión de Kacholia: “Hemos perdido confianza en Megan Kacholia y pedimos que sea eliminada de nuestra cadena de reportes”. Finalmente, Kacholia dejará de supervisar los reportes del comité.

En Twitter, cientos de personas muestran su apoyo a las dos trabajadoras despedidas, y expresan gran preocupación por la dirección que ha tomado la empresa frente a este problema, que podría haberse resuelto de mejor manera. “Toda esta saga ha causado inmensas ondas, un efecto escalofriante en (estimaría) miles de personas. Es un momento difícil para ser un investigador de sesgos algorítmicos, una persona marginada en tecnología, etc”, ha señalado al respecto la investigadora de Standford Danaë Metaxa.