Roi Naveiro, matemático: «Habrá desencanto con la inteligencia artificial: llegará a su tope y se estancará»

La confianza es esencial para la economía digital. Que nos fiemos de su seguridad se debe a la eficacia probada de las herramientas contra el fraude diseñadas por investigadores como Roi Naveiro (León, 1994), que recibió el galardón de la Fundación BBVA y la Sociedad de Estadística e Investigación Operativa (SEIO) a la mejor contribución metodológica en investigación operativa de 2023. Y la explosión actual de la inteligencia artificial obliga a no bajar la guardia.

«Hay mucha prisa por incorporar estos sistemas. Pero no debe hacerse sin atender los problemas que pueden surgir y atajarlos», advierte este físico que ... estudió en la Universidad de Salamanca, se doctoró en la Complutense y completó su formación en el Instituto de Ciencias Matemáticas del CSIC. El primer problema es que la IA se equivoca más de lo que aparenta. «Un estudio de Stanford señala que entre el 15 y el 30 por ciento de sus respuestas son erróneas. Y no se deberían usar sin supervisión humana en cuestiones relacionadas con aspectos jurídicos, financieros o de salud», recomienda este profesor de CUNEF.

«Es fundamental la cuantificación de la incertidumbre: cuando le preguntamos algo a estos modelos, no queremos solo una respuesta, sino una valoración de su certeza y su robustez. Esa es mi línea principal de investigación». El segundo problema es que la propia IA se utilice de modo fraudulento. De hecho, los ciberataques han alcanzado máximos históricos; por suerte, sin afectar a contraseñas gracias, de nuevo, a la fortaleza de los diques de seguridad. «La clave está en la escala. Hace años que se pueden enviar mensajes personalizados para estafar, engañar o persuadir, pero era laborioso y exigía mucha ingeniería social, espiar en redes… Ahora es automático. Por eso, las defensas nunca dejan de evolucionar.

Pero los malos no necesitan engañar a todo el mundo. En una campaña electoral, basta con manipular a un porcentaje de los indecisos para alterar el resultado». Naveiro cree que hay demasiadas expectativas puestas en la IA. «Algunas aplicaciones resuelven problemas reales, otras no tanto... Habrá un momento de desencanto. Alcanzarán un tope y se estancarán».

Las claves de mi investigación

1. 1

   «La ciberseguridad es como jugar al ratón y al gato. Empresas y usuarios crean barreras que los malos intentan burlar. Estas interacciones se estudian mucho con matemáticas».

2. 2

   «De hecho, mi investigación se basa en la teoría de juegos. A escala humana, las decisiones son limitadas; pero hoy, con la IA, hay muchas más posibilidades».

3. 3

   «La incertidumbre es inevitable en toda transacción y no es fácil de medir. Desarrollo métodos estadísticos para tomar las mejores decisiones, incluso en entornos de alto riesgo».

4. 4

   «Mis algoritmos también ayudan a las empresas a decidir qué herramientas de ciberseguridad contratar, buscando un equilibrio entre el coste y la vulnerabilidad».

Noticias relacionadas

Marc Serramià, ingeniero en inteligencia artificial: «La IA no va a traer el apocalipsis. El problema es mitificarla»

Carla Marín, física: «Investigo en los límites del conocimiento los primeros instantes del universo»

Pablo Morales, matemático: «Me fío más de científicos de prestigio que del algoritmo. Para confiar en la IA, antes debe merecerlo»