28 congresistas estadounidenses son confundidos con criminales

La herramienta de reconocimiento facial de Amazon Rekognition ha confundido las caras de 28 congresistas estadounidenses con sospechosos de la Policía en una prueba realizada por la Unión Estadounidense por las Libertades Civiles (ACLU, por sus siglas en inglés).

Para el experimento, la ACLU comparó las imágenes de 535 miembros del Congreso con 25.000 fotos de una base de datos policial.

La organización advirtió sobre el peligro asociado al uso de esta tecnología por los agentes, debido a que «una identificación imprecisa puede costarle a una persona su libertad o incluso su vida». Añade, que casi el 40% de las coincidencias falsas fueron de personas de color, que solo representan el 20% del Congreso.

El reconocimiento facial de Amazon confundió a 28 congresistas con delincuentes

La organización sin fines de lucro Unión Estadounidense por las Libertades Civiles (ACLU) puso a prueba la tecnología de reconocimiento facial de Amazon, Rekognition. #jimmyrosario #hablandoendigitos pic.twitter.com/azHboxp2fN

— Jimmy Rosario B. (@rosariojimmy) July 27, 2018

Posición de Amazon

Un portavoz de Amazon en declaraciones a The Verge aseguró que estos resultados se deben a una mala calibración. Las pruebas de la ACLU se realizaron utilizando el umbral de confianza predeterminado de Rekognition del 80 por ciento. No obstante, en los casos relacionados con la apliación de la ley, Amazon señalá que recomienda al menos un umbral del 95 por ciento, ya que en estos casos una identificación falsa podría tener consecuencias más graves.

”Aunque el 80% de confianza es un umbral aceptable para las fotos de perros o para su uso en las redes sociales, no es apropiado identificar individuos” asegura el portavoz de Amazon.

The American Civil Liberties Union tested Amazon’s new facial recognition system Rekognition API by scanning pics of all 538 mems of Congress against mugshots of criminals. 28 matched. Hmmm.

— John Simpson (@JohnSimpsonNews) July 27, 2018

La Rekognition de Amazon ya fue objeto de polémica cuando un informe de ACLU mostró que el sistema era utilizado por varias agencias de aplicación de la ley, incluido una versión de prueba reconocimiento en tiempo real por la policía de Orlando.

Se trata de un software extremadamente económico, de menos de 12 dólares al mes, por lo que muchos cuerpos policiales se hicieron con él.

https://www.elciudadano.cl/ciencia-tecnologia/aeropuerto-de-ee-uu-comenzara-a-usar-reconocimiento-facial-obligatorio/06/22/