Los riesgos del reconocimiento facial

Las empresas estadounidenses están exportando el reconocimiento facial a todo el mundo y se están beneficiando de su uso en dicho país, por lo que es hipócrita que Estados Unidos denuncie a los distintos estados de vigilancia en el extranjero.

POR ALBERT FOX CAHN

 ¿Qué representa América? Hoy, la respuesta nunca ha sido menos clara. Durante cuatro años, el ya dudoso historial de derechos humanos de Estados Unidos fue reducido a cenizas por una administración que despreciaba el concepto mismo de derechos humanos. Ahora, muchos están pidiendo una mayor presencia estadounidense en el escenario mundial , creando una línea brillante entre el gobierno estadounidense y los regímenes autoritarios en el extranjero . Pero, ¿cómo puede Estados Unidos tomar una posición contra la tiranía global cuando estamos vendiendo las herramientas que la permiten?

 
Reconocimiento facial gobierno está convirtiendo rápidamente en la tecnología de la definición del autoritarismo, la automatización de la vigilancia masiva de movimientos políticos y las minorías religiosas y étnicas . En China, el reconocimiento facial facilitó el encarcelamiento de más de un millón de uigures . Aquí, en los Estados Unidos, esa misma tecnología está automatizando el arresto injusto de un número incalculable de estadounidenses, más específicamente, estadounidenses negros . Pero las startups de Silicon Valley no solo venden vigilancia en casa, también la venden en el extranjero.

Los accionistas de Amazon y los grupos de la sociedad civil han denunciado al gigante tecnológico por vender su software a regímenes autoritarios. Pero no son solo las empresas de Fortune 500 las que han sido objeto de escrutinio. Clearview AI, la controvertida startup de reconocimiento facial, ha sido ampliamente condenada por vender servicios a 2200 agencias de aplicación de la ley en 27 países, mientras comercializa activamente en Europa, Sudamérica, Asia Pacífico y Medio Oriente.

A medida que forjamos una identidad nacional posterior a Trump, no podemos ignorar cómo nuestras propias empresas y la policía se benefician y propagan las tecnologías de vigilancia masiva. No podemos pretender ser un faro para el mundo mientras convertimos los rostros de los estadounidenses en balizas para la policía. No podemos pretender dejar atrás los pecados de la administración anterior cuando la policía todavía está usando tecnología racista para arrestar a los estadounidenses de color.

Se ha demostrado repetidamente que el reconocimiento facial discrimina a las personas de color , en particular a las mujeres negras de piel más oscura. No solo el algoritmo es a menudo defectuoso, sino que muchos departamentos de policía solo ejecutan el reconocimiento facial contra un conjunto de posibles sospechosos que son abrumadoramente negros o latinos , lo que agrava aún más la discriminación.

Hoy en día, el reconocimiento facial pone a millones de estadounidenses en riesgo de un arresto falso por el color de su piel. Le da a la policía un poder ilimitado para rastrear a nuestros vecinos por sus creencias políticas y religiosas. Congela los valores y las libertades que definen nuestra Primera Enmienda, socavando nuestra propia democracia. Y, sin embargo, todavía queremos ser los “buenos”, los abanderados morales del discurso mundial de los derechos civiles.

Las empresas de tecnología estadounidenses han sido durante mucho tiempo los principales promotores de esta herramienta orwelliana . A menudo consideramos a China como el ejemplo de vigilancia distópica, y es cierto que más de 100 ciudades chinas compraron sistemas de reconocimiento facial en 2019 . Pero las empresas y los gobiernos estadounidenses parecen decididos a intentar mantenerse al día. La tecnología ya es un negocio de mil millones de dólares en América del Norte, y Estados Unidos representa la mayor parte. Y las proyecciones de Grand View Research muestran que el reconocimiento facial continuará expandiéndose cada año, casi duplicándose para 2027.

El número de búsquedas de rostros que vemos como resultado es asombroso. Tomemos el ejemplo de Nueva York, donde el reconocimiento facial de la policía de Nueva York ha aumentado constantemente año tras año. Esto ha llevado a más de 22,000 búsquedas en los últimos tres años, y 9,850 solo durante 2019. Y esas cifras ni siquiera incluyen las más de 11,000 búsquedas no autorizadas realizadas por oficiales de la policía de Nueva York en plataformas privadas de reconocimiento facial. ¿Cómo podemos denunciar la vigilancia autoritaria de Beijing cuando utilizamos las mismas herramientas en Brooklyn?

¿CÓMO PODEMOS DENUNCIAR LA VIGILANCIA AUTORITARIA DE BEIJING CUANDO UTILIZAMOS LAS MISMAS HERRAMIENTAS EN BROOKLYN?

Y los peligros del reconocimiento facial no se limitan solo a la policía. Cada vez más, las empresas estadounidenses, en particular las cadenas minoristas como Rite Aid , han adoptado sistemas privados de reconocimiento facial. Pero estos sistemas están vinculados de forma innata al sistema de justicia penal, lo que alimenta la tubería de la vigilancia a la prisión. Las tiendas no utilizan el reconocimiento facial para recompensar a los clientes por su lealtad; utilizan el sistema para automatizar las llamadas a la policía por robos y otros delitos. Hacer que el supermercado local use el reconocimiento facial puede parecer más inocuo que cuando es la policía, pero los resultados a menudo pueden ser los mismos: personas de color arrestadas debido a algoritmos de reconocimiento facial sesgados.

Esta hipocresía es parte del curso de nuestra historia. Durante el tiempo que existió nuestra nación, hemos afirmado ser un ejemplo para el mundo de las libertades que no defendemos en casa. Cuando George Washington escribió sobre Estados Unidos como una “nación libre, iluminada y … gran”, millones todavía estaban en cautiverio. Cuando el presidente Truman marcó el comienzo de la Guerra Fría con su llamado a apoyar a los “pueblos libres” contra la opresión, Jim Crow todavía estaba en pleno efecto. Ahora, mientras nuestros líderes denuncian la opresión muy real del estado de vigilancia chino, muchos quieren ignorar las mismas tecnologías en casa.

No existen soluciones fáciles para la nueva administración. Dado nuestro sistema federal, existen límites a lo que el presidente puede hacer para abordar estos abusos a través de una orden ejecutiva o incluso una legislación. Pero la Casa Blanca puede darnos liderazgo moral, apoyando los esfuerzos estatales y locales para prohibir el reconocimiento facial. Y hemos visto que este modelo puede funcionar, con más de una docena de prohibiciones de reconocimiento facial en todo el país , incluidos Boston, San Francisco y Portland, Maine y Portland, Oregon. Y lo que es más importante, ya hay escépticos del reconocimiento facial en la administración, incluida la vicepresidenta Kamala Harris.

Ya vemos que este modelo híbrido está siendo utilizado por grupos de la sociedad civil. Un ejemplo llegó la semana pasada cuando Amnistía Internacional se asoció con activistas locales de Nueva York (incluido yo mismo) para presentar una campaña global contra el reconocimiento facial llamada Ban The Scan . Trabajando con una cohorte de socios en Nueva Delhi y Ulaanbaatar, Mongolia, podemos ejercer presión internacional sobre estas luchas políticas locales. Esta solidaridad es importante, pero sería más poderosa si el presidente Biden y su administración hicieran lo mismo, apoyando a los activistas locales que luchan por la prohibición del reconocimiento facial y otras reformas policiales. Ese es el tipo de liderazgo que podría ayudar a mostrar al mundo que Estados Unidos realmente tiene una posición en el discurso mundial de los derechos humanos, en lugar de simplemente repetir la hipocresía del pasado
 
Fuente: Fast Company