Amazon empieza a dar miedo


Lo último de Amazon se llama Rekognition y es un sistema de reconocimiento facial de alta precisión a través de fotografías o imágenes de vídeo. Está basado en una tecnología de aprendizaje profundo desarrollada por científicos de visión artificial y permite identificar miles de objetos, escenas, y, por supuesto, personas. Puede ejecutar análisis en tiempo real, con latencias mínimas, y su capacidad reconocimiento mejora continuamente según va recibiendo datos nuevos.

La compañía de Jeff Bezos pone algunos casos de uso: búsqueda de personas desaparecidas a través de las redes sociales (lo que permitiría agilizar una operación de rescate); verificación de usuarios basada en el rostro (para acreditar a empleados, por ejemplo); detección de emociones, como la felicidad, la sorpresa o la tristeza, y evaluar así la reacción de los clientes de una tienda ante determinados productos; o identificación de famosos en bibliotecas de imágenes. También serviría para buscar bienes (bicicletas, teléfonos móviles, vehículos, inmuebles…) o simplemente para controlar espacios públicos o privados.

Pero Rekognition también puede ser utilizado por las organizaciones, explican, para «detectar de forma automática contenido sugerente o explícito en vídeos y crear sus propias reglas sobre lo que es apropiado para la cultura y el sector demográfico de sus usuarios». O también para alertar sobre lo que se viene a denominar «contenido inapropiado».

Aquí es donde Amazon me empieza a dar miedo, porque me recuerda a algunos sistemas de control que fueron avanzados por la literatura o el cine (Fahrenheit 451, 1984, Minority Report o aquel episodio de Black Mirror en el que la gente era catalogada según su reputación digital, lo que determinaba lo que podía o no podía hacer). Sistemas que ya se aplican en países con regímenes poco democráticos como China, plagados de cámaras conectadas a plataformas de inteligencia artificial. Dejar la realidad de lo que está pasando sujeta a la interpretación de las máquinas, y que decidan si estoy estresado o tengo mala cara y puedo ser un peligro -o que le dé un beso o le haga una caricia a alguien y me identifiquen como un acosador-, puede llevarnos a un futuro distópico. Y esa película no la quiero ver.

Conoce toda nuestra oferta de newsletters

Hemos creado para ti una selección de contenidos para que los recibas cómodamente en tu correo electrónico. Descubre nuestro nuevo servicio.

Votación
23 votos
Tags
Comentarios

Amazon empieza a dar miedo