Cinco mujeres paran los pies a los gigantes tecnológicos de Silicon Valley

Destapan los sesgos y discriminación de la inteligencia artificial y el big data

Brittany Kaiser fue consultora de Cambridge Analytica.
Brittany Kaiser fue consultora de Cambridge Analytica.

vigo / la voz

Robo de datos, contratos con trampa, sesgos y discriminaciones en los buscadores... Cinco voces femeninas han destapado el lado oscuro de Silicon Valley, donde tienen su sede gigantes tecnológicos como Facebook, Google o Apple. Estas profesoras, matemáticas o analistas sacaron los colores y alertaron de que no es oro todo lo que reluce en los algoritmos, la inteligencia artificial (IA) y el big data diseñados por los programadores de las start-ups y empresas unicornio de la bahía de San Francisco.

La matemática, científica de datos y exanalista financiera Cathy O'Neil desveló en su libro Armas de destrucción matemática los sesgos ocultos en la inteligencia artificial y el big data. Los algoritmos tienen fama de ser imparciales y emitir veredictos intocables pero la autora demostró que son opacos y con puntos ciegos. Probó que algunos algoritmos diseñados en Silicon Valley perpetuaban los prejuicios y las discriminaciones de género o raza cuando puntuaban a los candidatos a un crédito rápido, un empleo, una hipoteca o la libertad condicional. Vio que las máquinas reflejaban la desigualdad social. Su estudio caló en los legisladores, que ya exigen a los programadores limar sesgos.

La doctora y activista Safiya U. Noble destapó en su libro Algorithms of Oppression (Algoritmos de opresión) cómo los buscadores de Internet refuerzan el racismo. Para ello, hizo búsquedas en Google sobre mujeres jóvenes negras. Al teclear las palabras «black girls» (chicas negras) salían fotos pornográficas o anuncios de prostitución en los primeros resultados. Lo mismo para latinas y asiáticas. En cambio, si escribía «beatiful» (bella) o «enfermeras» Google mostraba atractivas mujeres blancas. Logró una victoria cuando Google modificó su algoritmo para eliminar estereotipos. Según comprobó La Voz, los primeros resultados de «black girls» redirigen ahora a la web de una onegé de mujeres afroamericanas STEM (científicas e ingenieras), a cantantes de rock, a una «princesa» de siete años o a la problemática del abandono escolar. Sin embargo, los sesgos siguen activos para las chicas españolas. En «chicas gallegas» sale primero un anuncio de sexo y luego el vídeo de un youtuber que pone a caldo a dos gallegas.

La socióloga Shoshana Zuboff, profesora en la escuela de Derecho de Yale, visibilizó los abusos de la minería de datos y el negocio millonario que se oculta tras el big data y la vigilancia a los usuarios. En su bestseller La era del capitalismo de vigilancia desvela que las firmas tecnológicas extraen el perfil de millones de usuarios de Internet para elaborar predicciones. El excedente lo revenden a compañías publicitarias y a misteriosos clientes con intenciones opacas. El objetivo es modificar la conducta del usuario, por ejemplo, para comprar o votar. Describe el modelo de negocio millonario que se ha montado en torno a la vigilancia.

La analista política Brittany Kayser detalló en su libro La dictadura de los datos los trucos de la consultora Cambridge Analytica para manipular, supuestamente, la conducta de 50 millones de votantes tras extraer sus datos de Facebook. Según dice, estas técnicas de guerra psicológica (psyops) fueron usadas en el referendo del Bréxit y la elección de Trump como presidente. Los usuarios y sus amigos eran divididos en microsegmentos (amistosos, irreductibles, despreocupados) y recibían publicidad y noticias falsas personalizadas para «motivarlos». La autora fundó la asociación DATA para defender la privacidad del ciudadano mediante la tecnología del blockchain (usada en el bitcoin).

La profesora de Derecho Nancy S. Kim reveló en su libro Consentability: Consent and its Limits (Consentibilidad: consentimiento y sus límites) las políticas barrocas de privacidad y los «sádicos» laberintos de los contratos de adhesión (clickwrap) en Internet y que nadie lee. Es un «lo tomas o lo dejas» y el usuario pincha en la casilla de «Sí, acepto» y cede sus datos para acceder a un servicio gratuito en las redes sociales. Su crítica se extiende al consentimiento en la crionización, la eutanasia, la relación sexual y los cambios en el cuerpo en operaciones estéticas.

Conoce toda nuestra oferta de newsletters

Hemos creado para ti una selección de contenidos para que los recibas cómodamente en tu correo electrónico. Descubre nuestro nuevo servicio.

Votación
15 votos
Comentarios

Cinco mujeres paran los pies a los gigantes tecnológicos de Silicon Valley