EL RECONOCIMIENTO FACIAL DEBE POSTERGARSE
Por Farhad Manjoo
¿Qué vamos a hacer con todas las cámaras? La pregunta me
quita el sueño por las noches, con un sentimiento que se asemeja al terror.
Las cámaras están definiendo el avance tecnológico de
nuestra era. Son la clave de nuestros teléfonos celulares, los ojos de los
drones autónomos del mañana y los motores del FOMO (Fear of Missing Out, en
inglés; el miedo a perderse algo, la ansiedad que nos provoca perdernos un
evento u oferta) que impulsan Facebook, Instagram, TikTok, Snapchat y Pornhub.
La fotografía viral, barata y omnipresente ha dado lugar a movimientos sociales
como Black Lives Matter, pero las cámaras ya están dando lugar a más problemas
de los que podemos manejar: la pornovenganza, el terrorismo transmitido en
tiempo real, los reaccionarios de YouTube y otros males fotográficos.
Además, las cámaras no se quedan ahí. Siguen abaratándose y
volviéndose más inteligentes, de maneras que resultan sorprendentes y
alarmantes a la vez. Los avances en la visión computarizada les están dando a
las máquinas la capacidad de distinguir y rastrear rostros, adivinar el
comportamiento y las intenciones de la gente y aprehender y sortear amenazas en
el entorno físico. En China, las cámaras inteligentes son la base de un
totalitarismo de vigilancia que lo abarca todo y que no tiene precedentes en la
historia de la humanidad. En Occidente, las cámaras inteligentes ahora se
venden como soluciones baratas para casi cada infortunio público y privado,
desde atrapar a cónyuges infieles y ladrones de paquetes, hasta evitar tiroteos
en las escuelas y violaciones a la ley migratoria.
Sospecho que estos usos y
otros más tomarán vuelo, porque en los años que llevo cubriendo el tema de la
tecnología, he observado un axioma invulnerable de la sociedad: “si le pones
una cámara, se vende”.
Por ello me preocupa que estemos cayendo a tropezones y a
ciegas en un Estado que nos vigila, razón por la cual me parece que lo único
razonable que podemos hacer ahora al respecto es ponerles un alto a las cámaras
inteligentes.
La semana pasada, el Consejo de Supervisores de San
Francisco, mediante una votación, prohibió el uso de tecnología de
reconocimiento facial en la policía y otras agencias de la ciudad. Oakland y
Berkeley, en California, también están considerando prohibiciones, al igual que
la ciudad de Somerville, Massachusetts. Estoy esperando que estas medidas se
dispersen por doquier. Estados, ciudades y el gobierno federal deberían imponer
una moratoria inmediata al reconocimiento facial, en especial en lo que
respecta a su uso por parte de las autoridades que hacen cumplir la ley.
¿Cuáles son los riesgos? Dos nuevos informes de Clare
Garvie, una investigadora que estudia el reconocimiento facial en Georgetown
Law, me hicieron ver los peligros de esta tecnología. En un informe —escrito
junto con Laura Moy, directora ejecutiva del Centro de Privacidad y Tecnología
de Georgetown Law— Garvie sacó a la luz los contratos municipales que indican
que las agencias de procuración de justicia en Chicago, Detroit y otras
ciudades más se están movilizando rápidamente y con poca información al público
en general, para instalar sistemas de reconocimiento facial “en tiempo real” al
estilo de China.
En Detroit, los investigadores descubrieron que la ciudad
firmó un contrato de un millón de dólares con DataWorks Plus, un proveedor de
reconocimiento facial, para adquirir un programa que permite un monitoreo
continuo de cientos de cámaras públicas y privadas instaladas en toda la ciudad
—en gasolineras, restaurantes de comida rápida, iglesias, hoteles, clínicas,
centros de tratamiento a las adicciones, complejos de departamentos de interés
social y escuelas—. Los rostros captados por las cámaras pueden buscarse en la
base de datos de las fotografías de las licencias para conducir de Míchigan.
Los investigadores también obtuvieron las normas del Departamento de Policía de
Detroit que regulan el uso del sistema. Las normas son laxas, ya que permiten a
los policías escanear rostros “en video en vivo o grabado” por una gran
variedad de razones, incluyendo “investigar o corroborar información y pistas
de informantes”. En una carta para Garvie, James E. Craig, jefe de policía de
Detroit, negó que se estuvieran ejecutando “actividades orwellianas”, y agregó
que se “ofendió enormemente” ante la sugerencia de que la policía “violaría los
derechos de los ciudadanos que cumplen la ley”.
Soy menos optimista, al igual que Garvie. “El reconocimiento
facial les da a las autoridades una capacidad única que nunca habían tenido
antes”, me dijo Garvie. “Me refiero a la capacidad de llevar a cabo vigilancia
biométrica: la capacidad de ver no solo qué está ocurriendo en el terreno, sino
quién lo está llevando a cabo. Esto no había sido posible antes. Nunca habíamos
podido hacer secretamente un escaneo masivo de las huellas digitales de un
grupo de personas. Nunca hemos podido hacer eso con el ADN. Ahora podemos
hacerlo con el escaneo de los rostros”.
A principios de 2017, una cámara de seguridad captó a un
hombre robando cerveza de una tienda CVS en Nueva York, pero la cámara no
obtuvo una buena imagen del hombre y el sistema de escaneo facial de la ciudad
no encontró ninguna coincidencia. Sin embargo, eso no detuvo a la policía. Un
detective del Departamento de Reconocimiento Facial del Departamento de Policía
de Nueva York pensó que el hombre en el video pixelado de CVS se parecía al
actor Woody Harrelson. Así que obtuvo una imagen del actor en Google Imágenes y
escaneó su rostro. Eso produjo una coincidencia y las autoridades actuaron. Un
hombre fue arrestado por un delito no porque se parecía al hombre captado en la
cinta sino porque Woody Harrelson se parecía al delincuente.
Este tipo de búsqueda superficial es cosa de rutina en el
negocio del rostro. El software de escaneo de rostros que se vende a la policía
permite editar fácilmente fotografías de entrada. Para aumentar las
coincidencias que hay en una fotografía, se aconseja a la policía que remplace
las bocas, ojos y otros rasgos faciales de la gente con imágenes modelo de
Google. El software también permite hacer “modelos en 3D”, básicamente con
ayuda de animación computarizada para girar o cambiar de alguna otra forma un
rostro de tal modo que se asemeje a una fotografía estándar de las que se toman
en los cuarteles de policía.
En un giro inesperado, algunos departamentos de policía
incluso están utilizando el reconocimiento facial en los dibujos forenses:
buscan rostros de gente de carne y hueso con base en representaciones de
artistas a partir de la declaración de un testigo ocular, un proceso plagado
del tipo de subjetividad humana que el reconocimiento facial se proponía
evitar.
Lo más preocupante de todo esto es que casi no hay normas
que regulen su uso. “Si descubriéramos que un analista de huellas digitales
estuviera dibujando las líneas faltantes como pensara que continúan, habría
fundamentos para un juicio nulo”, afirmó Garvie.
No obstante, se está arrestando, acusando y sentenciando a
personas con base en prácticas similares en las búsquedas faciales. Y debido a
que no hay mandatos sobre la obligación para que a los acusados y sus abogados
se les informe acerca de estas búsquedas, a la policía se le permite actuar con
impunidad.
En resumen: ¿quién tiene el derecho de vigilar a los demás y
en qué circunstancias puedes rechazarlo?
Tomará tiempo y un cuidadoso estudio responder estas
preguntas. Pero tenemos tiempo. No hay necesidad de apresurarse a entrar en
terreno desconocido. Vamos a dejar de usar el reconocimiento facial de
inmediato, al menos hasta que podamos vislumbrar qué está pasando.
