Amnistía: la tecnología de reconocimiento facial amplifica la actuación policial racista

Amnistía Internacional ha emprendido una campaña global para pedir que se prohíba el uso de los sistemas de reconocimiento facial como forma de vigilancia masiva, porque amplifica la actuación policial racista y amenaza el derecho de manifestación.

La campaña Ban the Scan (“Prohibir el escaneo”) arranca con la ciudad de Nueva York y se ampliará luego a otras partes del mundo para centrarse en el uso del reconocimiento facial en 2021.

Los sistemas de reconocimiento facial son una forma de vigilancia masiva que viola el derecho a la privacidad y amenaza el derecho a la libertad de reunión pacífica y de expresión, se sostiene en la campaña.

La tecnología exacerba el racismo sistémico, porque puede afectar de manera desproporcionada a las personas de color, que son ya objeto de discriminación y violaciones de sus derechos humanos a manos de los agentes encargados de hacer cumplir la ley. Las personas negras son también las que mayor riesgo corren de ser identificadas erróneamente por los sistemas de reconocimiento facial.

«El reconocimiento facial entraña el riesgo de que los organismos encargados de hacer cumplir la ley lo utilicen como instrumento contra las comunidades marginadas en todo el mundo. De Nueva Delhi a Nueva York, esta tecnología invasiva pone nuestra identidad en contra nuestra y menoscaba los derechos humanos», ha afirmado Matt Mahmoudi, investigador de Amnistía Internacional sobre inteligencia artificial y derechos humanos.

«Los neoyorquinos y neoyorquinas han poder salir a ocuparse de sus quehaceres diarios sin ser rastreados por medio de reconocimiento facial. Otras grandes ciudades de Estados Unidos han prohibido ya el reconocimiento facial, y Nueva York debe hacer lo mismo».

En Nueva York, Amnistía Internacional se ha sumado a Inteligencia Artificial para las Personas, el Proyecto de Supervisión de las Tecnologías de Vigilancia, el Proyecto de Defensa de los Inmigrantes, la Unión por las Libertades Civiles de Nueva York, la Defensoría del Pueblo de Nueva York, la Coalición de Nueva York por la Privacidad, el senador estatal Brad Hoylman y Rada Studios para unir sus fuerzas en una campaña en favor de la promulgación de legislación que prohíba que los organismos encargados de hacer cumplir la ley utilicen tecnología de reconocimiento facial para vigilancia masiva en la ciudad.

«El uso policial de tecnología de reconocimiento facial pone a neoyorquinos y neoyorquinas inocentes en una rueda policial de reconocimiento permanente y viola nuestro derecho a la privacidad. El reconocimiento facial es un procedimiento omnipresente y no regulado que debe prohibirse», ha señalado Mutale Nkonde, fundadora y directora ejecutiva de Inteligencia Artificial para las Personas.

Albert Fox Cahn, director ejecutivo del Proyecto de Supervisión de la Tecnología de Vigilancia del Centro de Justicia Urbana, ha afirmado: «El reconocimiento facial es parcial, defectuoso y radicalmente contrario a la democracia. El Departamento de Policía de Nueva York lleva años utilizando el reconocimiento facial para rastrear a decenas de miles de neoyorquinos y neoyorquinas, y pone a los que son de color en riesgo de sufrir detención falsa y violencia policial. Prohibir el reconocimiento facial no sólo protegerá los derechos civiles, sino que es una cuestión de vida o muerte».

Puede desarrollarse tecnología de reconocimiento facial reuniendo millones de fotos de perfiles de las redes sociales y de permisos de conducir sin el consentimiento de las personas retratadas en ellas. Un programa informático hace luego un análisis facial de imágenes tomadas con cámaras de videovigilancia u otros sistemas similares para buscar posibles coincidencias en la base de datos de las fotos reunidas.

Aunque otras ciudades de Estados Unidos, como Boston, Portland y San Francisco han prohibido el uso de tecnología facial por los organismos encargados de hacer cumplir la ley, el Departamento de Policía de Nueva York continúa utilizando esta tecnología para intimidar y hostigar a ciudadanos y ciudadanas honrados, como se comprobó durante las protestas de Black Lives Matter el año pasado

Black Lives Matter

El 7 de agosto de 2020, decenas de agentes del Departamento de Policía de Nueva York intentaron irrumpir en el apartamento de Derrick “Dwreck” Ingram con objeto de detenerlo. Acusaban a Dwreck, cofundador de la organización de justicia social Warriors in the Garden (Guerreros en el Jardín), de haber agredido a un agente de policía al gritar con fuerza en un megáfono en una protesta celebrada en junio.

Una cámara captó frente al domicilio de Dwreck a un agente que llevaba un documento titulado «Informe principal divulgativo de la sección de identificación facial», lo que indicaba que probablemente se había utilizado reconocimiento facial para justificar la detención de Dwreck. En el documento se hacía coincidir el rostro de Dwreck con una foto de Instagram.

El Departamento de Policía de Nueva York no le informó de sus derechos, amenazó con echarle la puerta abajo, intentó interrogarlo sin la presencia de un abogado, utilizó al menos un helicóptero y drones y apostó a decenas de agentes en el pasillo de edificio, en la salida de incendios y en puestos tácticos emplazados dentro y alrededor de los edificios próximos. La policía no se fue hasta que Dwreck comenzó a transmitir en directo lo que estaba ocurriendo, se congregaron gran cantidad de manifestantes y los medios de comunicación empezaron a hacer preguntas.

Se empapeló el barrio de Dwreck con carteles policiales de «Se busca» con fotografías tomadas sin su consentimiento de su cuenta privada de Instagram. Aunque el Departamento de Policía de Nueva York confirmó al principio que había utilizado tecnología de reconocimiento facial, todavía tiene que desvelar debidamente documentación en el proceso legal de Dwreck sobre el uso de tal tecnología.

«Esta tecnología se utiliza específicamente en contra nuestra debido a las cosas por las que protestamos y a que estamos intentando deconstruir un sistema del que la policía forma parte», ha explicado Dwreck Ingram.

El impacto discriminatorio del reconocimiento facial va mucho más allá de su uso contra manifestantes pacíficos por parte de los organismos encargados de hacer cumplir la ley. En Nueva York, los propietarios de inmuebles de alquiler no dudan en utilizar esta tecnología para espiar a las comunidades negras y pardas.

Entre 2018 y 219, la comunidad predominantemente negra de los edificios Atlantic Plaza Towers de Ocean Hill-Brownsville, en Brooklyn, se opusieron con éxito a la instalación de cámaras de reconocimiento facial allí, como pretendía hacer el propietario, Nelson Management Group.

A los vecinos y vecinas que hacían campaña contra el uso del reconocimiento facial les dijeron que dejaran de organizarse, y el propietario los amenazó con copias impresas de fotos suyas tomadas con cámaras de vigilancia. Bajo la dirección de Tranae Moran y Fabian Rogers, la comunidad no cedió. Tras entablar los inquilinos acciones judiciales para detener la invasión de la privacidad y el robo de los datos biométricos de quienquiera que entrara en los edificios, y gracias también a la presión constante ejercida por la labor de organización comunitaria de Tranae y Fabian y su colaboración con organizaciones de la sociedad civil y medios de comunicación, en noviembre de 2019 el Nelson Management Group anunció en una reunión de la asociación de inquilinos que no iba a instalar sistemas de reconocimiento facial en los edificios.

El lanzamiento de la campaña Ban the Scan de Amnistía Internacional va acompañado de la creación de un sitio web donde los vecinos y vecinas de Nueva York pueden generar comentarios sobre el uso que hace el Departamento de Policía de Nueva York, al amparo de la denominada Ley POST, relativa a la supervisión pública de las tecnologías de vigilancia, y en una etapa posterior de la campaña, generar solicitudes de libertad de información para ver dónde se utiliza tecnología de reconocimiento facial en sus comunidades.

El sitio se ampliará en mayo de 2021, cuando Amnesty Decoders, red mundial de activistas digitales, ayudará a geolocalizar en Nueva York dispositivos de vigilancia con capacidad de reconocimiento facial para que los ciudadanos y ciudadanas sepan exactamente dónde se utiliza la tecnología. El sitio contiene también recursos con los que ayudar a la gente a protegerse mejor en las protestas y contra el uso de tecnología de reconocimiento facial.

Amnistía Internacional pide que se imponga una prohibición total del uso, desarrollo, producción y venta de tecnología de reconocimiento facial con fines de vigilancia masiva por parte de la policía y otros organismos públicos, así como una prohibición de las exportaciones de los sistemas de tecnología.