No es que Rekognition sea precisamente «una novedad» ni nada de eso (data de 2016), pero el sistema de análisis de videos e imágenes basado en aprendizaje profundo de Amazon está siendo noticia estos días porque según cuentan lo está «vendiendo activamente» a fuerzas policiales. Y esto a grupos de activistas como la ACLU no les gusta nada de nada.
Según Amazon,
Amazon Rekognition facilita la incorporación del análisis de imágenes y videos a sus aplicaciones. Usted tan solo debe suministrar una imagen o video a la API de Rekognition y el servicio identificará objetos, personas, texto, escenas y actividades, además de detectar contenido inapropiado. Amazon Rekognition también ofrece reconocimiento y análisis facial con un alto nivel de precisión. Puede detectar, analizar y comparar rostros para una amplia variedad de casos de uso de verificación de usuarios, catalogación, conteo de personas y seguridad pública.
Según la ACLU,
(…) por ejemplo la policía de Washington y Orlando son clientes de Rekognition desde 2017. Han recopilado bases de datos con 300.000 fotos policiales y han alimentado con ellas el software de Amazon. Incluso han desarrollado una app para comparar en plan rápido la cara de un sospechoso obtenida en cualquier lugar con las de la base de datos (…) La gente debería ser libre de caminar por la calle sin que el gobierno les esté mirando. Al automatizar esta forma de vigilancia masiva los sistemas de reconocimiento facial como Rekognition amenazan estas libertades, en especial para las comunidades más injustamente tratadas por el clima político actual. Una vez que se construyen y despliegan estos sistemas el daño ya está hecho y es muy difícil retirarlos.
Por otro lado Rekognition es una de las muchas APIs que hay en el mercado que hacen básicamente lo mismo, solo que superpotenciado con el poderío de Amazon y sus servicios web – lo cual a mucha gente le da un poco de yuyu y repelús. Y recuerda a sitios como China, donde ha habido demostraciones de poderío –aunque no precisamente fiables– como encontrar el rostro de un sospechoso perseguido por la policía en un concierto. Gran Hermano (el de Orwell, ¿eh?) y todo eso.
Amazon, al igual que Google o Apple tienen más datos en bruto y probablemente más potencia técnica y dispositivos con los que mejorarlo, finar y hacer precisos estos análisis que otras compañías. Pensemos en los Amazon Echo y otros dispositivos con Alexa como asistente en todos los hogares. Miedito puede dar.
Pero por otro lado, también nos maravillamos cuando nos hablan de robots que reconocen nuestras emociones a simple vista, sistemas de seguridad para los coches que saben si estamos nerviosos o nos dormimos o vehículos que conducen solos porque distinguen a las personas de las farolas.
Es un poco el «eterno dilema» de estas tecnologías. Por otro lado es un poco absurdo que se pudiera vender Rekognition a particulares y empresas pero no a las fuerzas del orden y la seguridad – ya hemos vistos casos parecidos como el de los Stingray y similares. Al final todo el mundo sabe que cualquier chisme de estos acabará llegando tarde o temprano a quien más jugo le vaya a poder sacar, sea legal o no.
