IA en las empresas: ¿quién es el responsable si se equivoca?
OPINIÓN
El uso de la inteligencia artificial (IA) sigue en plena expansión y ya nos acompaña de forma cotidiana como una herramienta más de trabajo en muchos sectores. Teniendo en cuenta que la IA es falible, ¿quién responde cuando provoca un error en una respuesta de empresa?
En un mundo sin IA, si llevamos nuestro coche al taller para que le cambien los neumáticos y estos resultan ser defectuosos, como clientes acudiremos en primera instancia al taller al que le pagamos la factura. El taller no fabrica los neumáticos, pero confiamos en su criterio para escoger al proveedor y hacer una mínima comprobación de las ruedas antes de colocarlas. Por tanto, si los neumáticos fallan, como clientes podremos reclamar al taller, que después podrá a su vez reclamar al fabricante de los neumáticos.
En el actual contexto de uso de la IA, cuando acudimos a una empresa buscando una respuesta o un servicio, y desde esta se nos facilita información equivocada porque se ha asumido un error de la IA, la responsabilidad de la empresa no puede ser diferente que en el caso del taller.
En la Unión Europea, el uso de la IA está regulado en el Reglamento Europeo de IA, conocido como AI Act, que se aplica a las empresas que la desarrollan y comercializan, pero también a todas a aquellas que simplemente la utilizan, que serán consideradas «responsable del despliegue».
El Reglamento será de aplicación plena el próximo 2 de agosto, pero desde febrero del 2025 se aplican ya dos de sus normas: la prohibición de la IA para determinados usos, y la obligación para las empresas de adoptar medidas para garantizar que su personal tenga un nivel suficiente de alfabetización en materia de IA. Esto significa que la empresa debe formar a su personal para usar la IA, teniendo en cuenta sus conocimientos técnicos, su experiencia, su educación y su formación, así como el contexto previsto de uso de los sistemas de IA y las personas o los colectivos de personas en que se van a utilizar dichos sistemas.
Es decir, que al igual que el taller del ejemplo responde de que sus empleados sepan colocar correctamente los neumáticos en un vehículo, una empresa que use IA es responsable de que sus empleados sepan usarla, supervisarla y, en caso necesario, enmendar sus errores antes de trasladarlos a los clientes. Y del mismo modo, ambas empresas deben escoger a proveedores con garantías, ya sea de neumáticos o de IA.
A efectos de responsabilidad de las empresas frente a terceros, el uso de la IA equivale al de cualquier otra herramienta de trabajo: puede fallar, y sus resultados deben ser comprobados antes de trasladarlos al cliente. Si este control falla y se acaba por entregar al cliente un producto o servicio defectuoso, la empresa debe responder ante el cliente. Si el fallo ha tenido lugar porque los trabajadores no tienen conocimientos para supervisar a la IA, la empresa se expone además a ser sancionada por incumplir la AI Act.