La Unión Americana de Libertades Civiles (ACLU) ha presentado una queja formal en contra de la policía de Detroit sobre lo que se dice es el primer ejemplo conocido de un arresto ilegal causada por la defectuosa de la tecnología de reconocimiento facial.
Robert Julian-Borchak Williams, un hombre Afro-Americano, fue arrestado después de que un sistema de reconocimiento facial falsamente correspondía con su foto con la seguridad material de archivo de una shoplifter. El New York Times informa que la ACLU está pidiendo el despido de Williams’ caso y para su información para ser removido de Detroit bases de datos de criminales, y los fiscales ya han acordado eliminar sus datos.
La tecnología de reconocimiento Facial ha sido criticado por años, con los investigadores que muestra que es sesgada en contra de los miembros de diferentes razas y etnias. Pero su uso por la aplicación de la ley ha crecido aún más polémica en las últimas semanas tras las protestas a nivel nacional contra la brutalidad policial y el racismo. Ahora, Williams’ caso muestra la realidad de lo que sucede cuando deficiente tecnología choca con los pobres el trabajo de la policía.
El NYT informa de que el robo Williams fue acusado de tuvo lugar en octubre de 2018, y en Marzo de 2019, aún desde la tienda de vigilancia de video fue subido a la del estado de Michigan, de reconocimiento facial de la base de datos. Esto habría generado una serie de fotografías, los partidos, más adelante, como parte de un documento que decía que ellos no eran «causa probable para el arresto.» Sin embargo, a pesar de ello se llevó a Williams a la imagen de ser incluido en una foto de la alineación que se muestra a la tienda del guardia de seguridad. Esta guardia, que la ACLU dice que no fue testigo del robo de primera mano, identificado positivamente Williams.
El led de identificación a Williams de ser detenido en la entrada de su casa en enero, después de lo cual fue tomado en custodia de la policía para un total de 30 horas. Williams ha dado a su cuenta de la detención en un op-ed, por El Washington Post. Él dice que en una entrevista con la policía tomó una foto de la shoplifter junto a su cara, después de que uno de los detectives, dijo, «el equipo debe tener metido mal».
Aunque Williams’ caso fue desestimado dos semanas después de que fue arrestado, fue despedido «sin perjuicio de lo dispuesto,» dejándolo abierto a ser cargada de nuevo, el NYT notas. Además, la ACLU dice que, como resultado de la detención de Williams muestra de ADN, ficha policial, y las huellas de los dedos en el archivo, y que su detención está en el expediente.
Un portavoz de la policía de Detroit dijo al NYT que el departamento había aceptado la decisión del fiscal de desestimar el caso, y que a partir de julio de 2019 la política del departamento era sólo utilizar el reconocimiento facial para investigar los crímenes violentos.
Williams’ historia viene como múltiples de alto perfil de las empresas de tecnología, incluyendo IBM, Microsofty Amazon, ha anunciado que será detener o pausar su reconocimiento facial de trabajo para la policía. «Creemos que ahora es el momento para comenzar un diálogo nacional sobre si y cómo la tecnología de reconocimiento facial debe ser empleado por la aplicación de la ley interna de las agencias,» el CEO de IBM, Arvind Krishna dijo en un comunicado a principios de este mes.
Pero muchos de reconocimiento facial, los expertos dicen que se necesita un mayor tiempo de moratoria en el uso de la tecnología, y que algunas empresas puede ser simplemente esperar a que el actual ciclo de noticias antes de comenzar a vender a la aplicación de la ley una vez más. Como Williams’ caso pone de relieve, sin embargo, los daños que un falso arresto puede causar en la vida de alguien son más difíciles de olvidar.
«Mis hijas no pueden unsee mí ser esposado y puesto en un coche de la policía,» Williams escribe en su op-ed. «Pero ellos me pueden ver usar esta experiencia para traer algo bueno en el mundo. Que significa ayudar a asegurarse de que mis hijas no crecen en un mundo donde su licencia de conducir o de Facebook fotos podrían ser utilizados para atacar, pista o daño a ellos.»
Actualización 2:52PM ET: Agregó que los fiscales han acordado suprimir Williams datos.