Lo último de Amazon se llama Rekognition y es un sistema de reconocimiento facial de alta precisión a través de fotografías o imágenes de vídeo. Está basado en una tecnología de aprendizaje profundo desarrollada por científicos de visión artificial y permite identificar miles de objetos, escenas, y, por supuesto, personas. Puede ejecutar análisis en tiempo real, con latencias mínimas, y su capacidad reconocimiento mejora continuamente según va recibiendo datos nuevos.
La compañía de Jeff Bezos pone algunos casos de uso: búsqueda de personas desaparecidas a través de las redes sociales (lo que permitiría agilizar una operación de rescate); verificación de usuarios basada en el rostro (para acreditar a empleados, por ejemplo); detección de emociones, como la felicidad, la sorpresa o la tristeza, y evaluar así la reacción de los clientes de una tienda ante determinados productos; o identificación de famosos en bibliotecas de imágenes. También serviría para buscar bienes (bicicletas, teléfonos móviles, vehículos, inmuebles…) o simplemente para controlar espacios públicos o privados.
Pero Rekognition también puede ser utilizado por las organizaciones, explican, para «detectar de forma automática contenido sugerente o explícito en vídeos y crear sus propias reglas sobre lo que es apropiado para la cultura y el sector demográfico de sus usuarios». O también para alertar sobre lo que se viene a denominar «contenido inapropiado».
Aquí es donde Amazon me empieza a dar miedo, porque me recuerda a algunos sistemas de control que fueron avanzados por la literatura o el cine (Fahrenheit 451, 1984, Minority Report o aquel episodio de Black Mirror en el que la gente era catalogada según su reputación digital, lo que determinaba lo que podía o no podía hacer). Sistemas que ya se aplican en países con regímenes poco democráticos como China, plagados de cámaras conectadas a plataformas de inteligencia artificial. Dejar la realidad de lo que está pasando sujeta a la interpretación de las máquinas, y que decidan si estoy estresado o tengo mala cara y puedo ser un peligro -o que le dé un beso o le haga una caricia a alguien y me identifiquen como un acosador-, puede llevarnos a un futuro distópico. Y esa película no la quiero ver.