En México, el interés de los gobiernos por vigilar a la ciudadanía con tecnologías de reconocimiento facial va en aumento. Entidades como Coahuila han comenzado pruebas piloto de sistemas de videovigilancia del espacio público e incluso han presumido detenciones con base en su uso.
Las tecnologías de reconocimiento facial pretenden identificar a un individuo a través de sus rasgos faciales. Los algoritmos de estas tecnologías utilizan atributos del rostro humano ─como la distancia entre los ojos o la forma del mentón─ para compararlos con otras imágenes registradas en una base de datos y predecir la posible identidad de un individuo.
A pesar de ser promovido como una solución a la inseguridad, la vigilancia con reconocimiento facial conlleva graves riesgos para los derechos humanos. Sus altos márgenes de imprecisión la hacen una tecnología no confiable que afecta desproporcionadamente a poblaciones vulnerables y/o minoritarias. Favorece el autoritarismo al establecer un estado de vigilancia permanente y es susceptible de abusos debido a la opacidad, falta de regulación y controles con la que se opera.
¿Por qué la vigilancia con reconocimiento facial no es compatible con una sociedad democrática?
El reconocimiento facial no es confiable
Las tecnologías de reconocimiento facial tienen el riesgo inherente de producir falsos positivos. Esto ocurre cuando se empareja incorrectamente a un individuo con un rostro en una base de datos. Estas bases suelen componerse de fotografías tomadas a individuos que han sido aprehendidos ─aunque posteriormente se demuestre su inocencia─ o mediante el cruce con imágenes de otra base ─que pudieron haber sido recabadas con otros fines─.
Las cámaras de reconocimiento facial operan con frecuencia en condiciones adversas de iluminación, ángulos difíciles o sin una calidad de imagen óptima. Existen casos documentados en los que el reconocimiento facial ha fallado con márgenes de error que pueden oscilar entre un 923 y 954 por ciento. En ocasiones, estos fallos conducen a detenciones arbitrarias, como ha sido reportado en Argentina5, Brasil6, Estados Unidos7, entre otros. Así mismo, se ha comprobado que su imprecisión puede aumentar hasta en un 50 por ciento8 si la persona porta una mascarilla.
El reconocimiento facial nos pone en el peligro inminente de ser identificados erróneamente como autores de un delito que no cometimos. Incluso en los casos en los que se cuenta con una persona para hacer una doble verificación, esta puede equivocarse hasta en la mitad de las veces9.
El reconocimiento facial es discriminatorio
El reconocimiento facial es especialmente falible para identificar a mujeres, jóvenes, adultos mayores, personas no blancas, y personas transgénero o no binarias. Esto se debe a que las bases de datos con las que se comparan los rostros suelen tener un desbalance de sexo, etnia y edad; además de contar con limitaciones técnicas para reconocer caras con tonos de piel más oscuras.
Por ejemplo, un estudio del MIT (2018)10 a los tres principales sistemas de reconocimiento facial demostró que hay entre 12 y 19 por ciento más equivocaciones al identificar rostros con piel más oscura; mientras que la tasa de error al identificar mujeres es entre ocho y 20 por ciento más elevada que con hombres.
Otro estudio del Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE.UU. (2019)11 corroboró los hallazgos del MIT, además de hallar que, en algoritmos desarrollados en China, el reconocimiento facial se equivoca más en identificar a población no asiática. Este dato se vuelve especialmente relevante ante la tendencia de adquisición de estas tecnologías a empresas provenientes de dicho país por parte de gobiernos en América Latina.12
El reconocimiento facial es autoritario
La vigilancia indiscriminada con tecnologías de reconocimiento facial es contraria al derecho a la privacidad y a los derechos humanos. Esta vigilancia masiva del espacio público es prácticamente inescapable y permite generar registros de los hábitos y rutinas de una persona: a dónde va, con quién interactúa, sus horarios. Esto puede revelar aspectos íntimos, como su orientación sexual, su estado de salud, sus preferencias políticas o religiosas, entre otros.
El reconocimiento facial también ha sido empleado contra personas que ejercen su derecho a la libertad de expresión y a la protesta. En 2016, la policía de Baltimore (EE.UU.)13 sometió imágenes obtenidas de redes sociales a un sistema de reconocimiento facial para identificar manifestantes. En pleno 2020, a raíz de las protestas por el movimiento Black Lives Matter, policías en ciudades como Nueva York, Filadelfia y Miami14 están utilizando estas capacidades de vigilancia para realizar arrestos arbitrarios. De igual manera, los sistemas de reconocimiento facial han sido usados por instancias como el Servicio de Control de Inmigración y Aduanas de EE.UU. (ICE) para perseguir y deportar a personas migrantes.15 En otros casos, estas tecnologías han sido empleadas para acosar y hostigar a mujeres.16
El reconocimiento facial es implementado sin transparencia ni regulación contra abusos
La falta de regulación ha llevado incluso a más de 80 organizaciones de la sociedad civil a demandar una moratoria18 al uso de reconocimiento facial en el espacio público. Asimismo, empresas como IBM, Microsoft y Amazon19 han anunciado que restringirán sus actividades de desarrollo y/o venta de estas tecnologías en Estados Unidos hasta que exista una regulación apropiada. Por desgracia, esta promesa no ha sido extendida para otras regiones del mundo,20 donde se siguen comercializando.
En México no existe regulación al respecto. En Coahuila, por ejemplo, el gobierno estatal ha reservado toda la información sobre la contratación y uso de su sistema de videovigilancia con reconocimiento facial; incluso ha reconocido que carece de regulación o protocolos para su utilización. Esto es alarmante en un contexto nacional donde la línea entre las autoridades y el crimen organizado es a menudo inexistente, poniendo a la ciudadanía en un estado permanente de vulnerabilidad.
