¿Alguna vez te han acusado de algo que no hiciste? ¿Cómo te hizo sentir eso? Probablemente no muy bien. Ahora, imagina que un día la policía llega a tu casa con una orden de arresto porque una tecnología de reconocimiento facial te identificó al 100% en la escena de un crimen. No tienes derecho a reclamar, después de todo, es un programa de computadora. No debería equivocarse, ¿verdad?
Aunque parezca un guiño simpático a la película Minority Report, esta distopía se ha ido normalizando en distintas partes del mundo y justo a partir de ahí empieza el reclamo de Amnistía Internacional.
En enero de este año, la organización defensora de los derechos humanos, lanzó la campaña “Ban the Scan” para detener de una vez por todas el uso de tecnologías de reconocimiento facial, argumentando que estas amplifican la violencia policial racista.
Contexto histórico
La capacidad de reconocer rostros utilizando tecnología se materializó en los años 90. A pesar de los avances en tecnología de reconocimiento facial que existían desde 1960, no fue sino en el año 1991, donde se logró el primer reconocimiento automático de rostros a partir de una fotografía.
Desde entonces, la tecnología de reconocimiento facial no ha hecho más que ir en boga por su amplia utilización en sistemas comerciales y de seguridad. Sin embargo, en los últimos años, estas tecnologías han pasado a estar en la mira de investigadores y organizaciones defensoras de los derechos humanos por las crecientes denuncias de abusos respecto a su uso.
Tecnología de reconocimiento ¿racial?
El principal reclamo por parte de Amnistía Internacional es la discriminación racial que han demostrado tener estas tecnologías en pro de “preservar la seguridad”. Según la organización, las bases de datos con que cuentan las tecnologías de reconocimiento facial, están alimentadas en su mayoría por fotografías de afroamericanos.
Esto trae como consecuencia que el sesgo racial para identificar presuntos perpetradores:
- Aumente
- Tenga posibilidad de ser erróneo
- Sea utilizado con fines de persecución política
Este último aspecto fue el caso de Derrick Ingram ‘s, activista político estadounidense que en 2020 fue acosado policialmente luego de haber sido identificado y localizado utilizando tecnología de reconocimiento facial.
Más allá de una simple acusación
En 2019, el Instituto Nacional de Estándares y Tecnologías de los Estados Unidos (NIST, por sus siglas en inglés), examinó 189 algoritmos de las tecnologías de reconocimiento facial más utilizadas a nivel mundial, los cuales fueron proporcionados voluntariamente por las empresas tecnológicas más grandes del mundo (Microsoft, Panasonic, Intel, etc).
Según la investigación, las personas con rasgos africanos o asiáticos tienen una alta tasa de probabilidad de ser peor identificados que personas blancas.
En el caso específico de las mujeres afroamericanas, entre más oscuro el color de su piel, aumenta como consecuencia el porcentaje de ser erróneamente identificadas por los algoritmos, alcanzando hasta un 35% de inefectividad.
Los resultados de este y otros estudios plantean numerosas interrogantes en cuanto a qué tan éticos son los sistemas de tecnologías de reconocimiento facial. No obstante, este sector tecnológico sigue en crecimiento alrededor de todo el mundo.
Amnistía Internacional: abriendo la caja de pandora
Hasta el momento no existe una regulación nacional en los Estados Unidos, ni un estándar para el desarrollo de algoritmos de estas tecnologías. Sin embargo, cada vez más empresas se dedican a la creación y venta de tecnología de reconocimiento facial para distintos propósitos. Esto hace más difícil saber qué entidades están utilizando estas tecnologías, con qué propósito y cuál es su rango de efectividad.
Amén de todo esto, gobiernos de países en todo el mundo están comprando tecnología de reconocimiento facial con el argumento de conseguir una mejor gestión en la vigilancia ciudadana.
El temor de Amnistía Internacional es que las tecnologías puedan ser utilizadas para fortalecer los aparatos represivos de los Estados, más que en beneficio de la seguridad de los ciudadanos.
Amnistía Internacional: La batalla apenas empieza
Desde políticos estadounidenses alzando su voz en contra, hasta legislaciones exitosas en grandes ciudades de Estados Unidos, se puede hablar de victorias significativas contra el desarrollo e implementación de tecnologías de reconocimiento facial.
Además, parte de las empresas tecnológicas más importantes del mundo han acatado el reclamo popular, poniéndole un freno a la creación de este software y en el mejor de los casos, prometiendo no utilizarlo más. No obstante, aún queda mucho trabajo por hacer.
El primer campo de batalla que Amnistía Internacional planea conquistar para bloquear el uso de estas tecnologías será Nueva York.
La organización habilitó una sección de comentarios en el sitio web de la campaña que serán enviados al departamento de policía de Nueva York. Esto se hará evitar que se siga adoptando el uso de estas herramientas.
Por ahora, no queda más que estar al pendiente de cuáles serán las próximas medidas a tomar por la organización.
¿Y tú qué dirías al respecto? ¿Crees que la tecnología de reconocimiento facial debería ser bloqueada absolutamente? Cuéntanos qué opinas acá abajo en la sección de comentarios.
Fuentes:
