La tecnología ha avanzado a pasos agigantados, pero la sabiduría humana parece haber retrocedido un paso en el camino. El encarcelamiento injusto de una mujer debido a un error de reconocimiento facial no es solo una noticia sobre un fallo técnico; es una autopsia sobre cómo las instituciones están delegando la responsabilidad moral en las máquinas. Seis meses de prisión preventiva son el precio que una ciudadana inocente pagó porque nadie, en todo el proceso policial, se detuvo a mirar a la persona que tenían delante.
El reconocimiento facial funciona mediante la comparación de vectores biométricos: distancias entre los ojos, la forma de la mandíbula o la anchura de la nariz. Sobre el papel, es una herramienta matemática infalible. En la práctica, es un sistema propenso al error cuando las condiciones de iluminación son malas, el ángulo de la cámara es forzado o, simplemente, cuando el sujeto ha envejecido o cambiado físicamente. En el caso que hoy conmociona a la opinión pública, la IA señaló a una mujer basándose en una foto de archivo de hacía ocho años. El algoritmo vio una coincidencia de rasgos óseos, pero fue incapaz de contextualizar la realidad: la mujer que arrestaron estaba en un avanzado estado de gestación, mientras que la sospechosa del vídeo no lo estaba.
Este fenómeno se conoce como «sesgo de automatización»: la tendencia humana a favorecer las sugerencias de los sistemas automatizados incluso cuando contradicen la evidencia de nuestros propios sentidos. Los agentes de policía y los jueces, abrumados por el volumen de casos y deslumbrados por la supuesta «objetividad» de la tecnología, han empezado a tratar los resultados de la IA como verdades absolutas. Si la pantalla dice «coincidencia del 98%», el factor humano desaparece. Se deja de investigar la coartada, se dejan de buscar testigos y se procede al arresto. La máquina ha hablado.
Además, este caso pone de relieve el racismo algorítmico. Numerosos estudios han confirmado que los sistemas de reconocimiento facial, desarrollados mayoritariamente por equipos poco diversos y entrenados con bases de datos predominantemente blancas, fallan estrepitosamente al identificar a personas de otras etnias. Las sombras, los rasgos y los contrastes de la piel oscura suelen confundir a los sensores, provocando «falsos positivos» que terminan en tragedias legales. En 2026, seguimos permitiendo que se utilicen herramientas que tienen un margen de error desproporcionado según el color de piel del sospechoso.
La pregunta que surge es: ¿quién es el responsable? Si un cirujano comete un error usando un robot, la responsabilidad sigue siendo del cirujano. Sin embargo, en la justicia algorítmica, parece haberse creado una «zona gris». Los desarrolladores culpan al mal uso policial, y la policía culpa a la supuesta precisión del software. Mientras tanto, las garantías constitucionales se erosionan. Este marzo, diversas asociaciones de derechos civiles están exigiendo una moratoria en el uso de estas tecnologías hasta que se establezca por ley que una coincidencia de IA nunca puede ser motivo único de detención.
El caso de la mujer que pasó seis meses en prisión es un recordatorio brutal de que la tecnología sin ética es peligrosa. La IA debe ser un asistente, nunca un juez. La justicia requiere empatía, contexto y, sobre todo, la capacidad de dudar de la máquina. Si permitimos que el algoritmo sea el que decida quién es culpable, habremos construido una sociedad tecnológicamente avanzada, pero humanamente primitiva. Los seis meses robados a esta mujer son un aviso: en la era de la IA, el pensamiento crítico es nuestra única defensa contra la tiranía de los datos.
