¿Puede un algoritmo ser injusto?

Fernando Cendán Garrote INGENIERO DE TELECOMUNICACIÓN Y MIEMBRO DE LA JUNTA DEL COLEXIO DE ENXEÑEIROS DE TELECOMUNICACIÓN DE GALICIA

MERCADOS

Mabel Rodríguez

El potencial de la inteligencia artificial y el «big data» en el mundo que nos rodea requiere de mecanismos que supervisen cómo toman sus decisiones los sistemas de información. La sociedad debe exigir que se rijan por unos códigos de valores compartidos, que sean explicables y auditables para evitar que trasladen sesgos inadecuados o moralmente reprobables

07 nov 2019 . Actualizado a las 12:27 h.

Detrás de cada servicio digital (o físico en ya muchos casos), como los que nos proponen qué comprar, qué película ver... existen profundos estudios de cómo nos comportamos. No es que nos planteemos si pueden estar influyendo en nuestras decisiones, que sí que lo están haciendo, sino ¿cuántas, cuáles y cómo pueden estar afectadas? ¿Cómo influyen en lo que consumimos y en la forma en que lo hacemos? ¿En qué pensamos? Así cambian nuestra intención de compra, nuestra opinión, modificando o coartando nuestra creatividad.

No voy por un camino alarmista. Del mismo modo que en la ropa que vestimos influye el clima, también influyen las tendencias de moda de temporada, pero en general somos conscientes de ello y podemos tomar la decisión de ir a la moda o no. Realmente estoy pensando en esa otra guerra por captar nuestra atención e influir en nuestras decisiones menos conscientes: sistemas de recomendación, finales de series decididas por la audiencia, opiniones filtradas por relevancia (relevante para quién) en las redes sociales, no ver opiniones discrepantes en las mismas...

Detrás de estos sistemas están los algoritmos (conjunto ordenado y finito de operaciones que permite hallar la solución de un problema), llamados ya en múltiples casos como inteligencia artificial (IA). Basados en sistemas matemáticos, y a esta la consideramos la más exacta de las ciencias, podemos caer en el error de creer que obtienen un resultado objetivo y cierto. Realmente obtienen el resultado para el que fueron creados: si está buscando minimizar el consumo de calefacción en un hogar, se ajustarán a cuando estemos en casa, pero si están buscando maximizar las ventas de una eléctrica, nos ofertarán más climatizadores.