El fin último es la adaptación, la personalización del servicio: la economía inteligente. Así, se elabora un retrato robot de gustos, aficiones y necesidades del usuario tan perfeccionado que, en ocasiones, incluso roza la prescripción: los algoritmos miran atentos al pasado para predecir el futuro. «Las variables a tener en cuenta son numerosas: perfil de usuario (edad, sexo, lugares que visita, horas, rutinas), perfil de producto (características, audiencia objetivo, escenarios de aplicación), contexto de uso, cruce de información entre perfiles de distintos usuarios con características comunes, cruce de productos similares que se venden a perfiles diferentes...», continúa Fernández López. Y ahí, en lo que la experta expone, en toda esa información que es el combustible está la debilidad, el punto flaco: ¿hasta qué punto pueden/deben «entrometerse» estos sistemas? «El debate está en que para poder hacer recomendaciones personalizadas acertadas se necesitan datos privados, algo que es muy sensible. Los algoritmos están sesgados en base a la información de la que dispongan. Si tengo interés en recomendaciones de películas, me interesa que disponga de mis gustos, pero quizás prefiera no indicarles mi edad». Y, entonces, la probabilidad de éxito mermará.
Hay, además, otro dolor de muelas: se conoce como «el filtro burbuja» y tiene que ver con la capacidad de decisión -de este tipo de compañías en particular y de la Red en general- en lo que leemos y, por lo tanto, en lo que acabamos pensando. Los más críticos con estos algoritmos defienden que esta selección de la realidad puede acabar atrapando al usuario en su propio «capullo de información», que la criba es complaciente, que el individuo acaba creyendo que el mundo es solo como él lo ve. «La tendencia actual va sobre usar más tipos de datos de contexto, como localización (país o región), tiempo (día, estación, hora) dispositivo o lenguaje», añaden desde Gradiant. Pero la evolución pasará por la deducción, por el autodidactismo de la máquina: el reto está en el desarrollo de sistemas que hagan asociaciones más complejas, menos relacionadas con la lógica y más con las experiencias. Con la emoción.