La magistratura analiza los riesgos de la inteligencia artificial: «Se pueden mitigar con regulación»
GALICIA
La magistrada Carlota Cuatrecasas fue una de las ponentes en la Escuela de Verano del Poder Judicial en Mariñán: «El mejor antídoto es que los jueces fundamenten por qué están de acuerdo o no con el sistema»
09 jul 2026 . Actualizado a las 05:00 h.Todavía en fase de preparación y debate, los sistemas de inteligencia artificial no forman parte del día a día de la magistratura. En este impás, porque su uso terminará extendiéndose al menos a los procesos más simples, los jueces tienen la responsabilidad de entender cuáles son los riesgos a los que se enfrentarán con esta nueva tecnología. Esta idea fue la que se debatió ayer en el pazo de Mariñán, que estos días acoge las jornadas de la Escuela de Verano del Poder Judicial, centradas precisamente en la inteligencia artificial. «La buena noticia es que esos riesgos, si bien no se pueden eliminar del todo porque el riesgo cero no existe, sí se pueden llegar a mitigar mediante la regulación», afirmó la magistrada de la Sección de lo Penal del Tribunal de Instancia de Barcelona, Carlota Cuatrecasas Monforte, que moderó la ponencia sobre los peligros en el uso judicial de estas herramientas.
La magistrada aseguró que el riesgo cero no existe en la tecnología, y que los sistemas empleados por las autoridades judiciales no escapan a esa realidad por la cantidad de datos sensibles que manejan: «Tenemos la garantía de que van a ser examinados con más detenimiento y requisitos para evitar vulneraciones de derechos». Sin previsión de cuándo comenzarán a implantarse, ya hay programas piloto.
Leer más: «La Justicia es más que un algoritmo»
Carlota Cuatrecasas, que está participando con un magistrado francés en la elaboración de una serie de directivas para la Unión Europea sobre este tema, aseguró que hay dos grandes peligros en el uso de estas herramientas en la Administración de Justicia. El primero es la dilución de la responsabilidad judicial: «Es muy tentador porque todos tenemos cargas de trabajo muy elevadas y de repente nos aportan un sistema que en cuestión de segundos es capaz de darnos una solución». El otro es fiarse absolutamente del sistema para decidir sobre ciertos asuntos. En este sentido, su propuesta es que se ponga una serie de límites al uso de estos sistemas.
En su ponencia, enumeró los riesgos de la inteligencia artificial en el ejercicio de la función jurisdiccional. Por ejemplo, la falta de precisión y el potencial discriminatorio. «Los sistemas de inteligencia artificial cometen errores», aseguró, y puso como ejemplo los que usan datos biométricos en otros países y llevaron a detenciones de personas de forma equivocada por problemas con el reconocimiento facial. Después, los modelos se entrenan con datos históricos que pueden venir sesgados, lo que perpetúa el sesgo.
La vulneración del derecho a la privacidad y a la protección de datos personales es otro de los riesgos. Cuatrecasas puso como ejemplo el caso de Mercadona, previo al reglamento europeo de inteligencia artificial, que pretendía instalar en las cámaras de vigilancia un sistema de reconocimiento facial que detectara la entrada de personas condenadas la prohibición de aproximarse a sus establecimientos. Por último, destacó las brechas de seguridad, la multiplicación de ineficiencias y la falta de transparencia. «El mejor antídoto es que el juez no solo diga que está empleando esta herramienta, sino que fundamente por qué está de acuerdo o no con lo que dice el sistema. Es la forma de obligarnos a reflexionar», aseguró.
«El mejor antídoto es que los jueces fundamenten por qué están de acuerdo o no con el sistema»
Procesos sencillos
Formación, supervisión, responsabilidad, uso proporcionado, prudencia y autonomía. Esas son las recomendaciones de la magistrada, que aseguró que de primeras se priorizarán las cuestiones más sencillas, como la elaboración de sentencias de conformidad penal. «Procesos sencillos que nos quitan mucho tiempo y en los que realmente la incidencia en los derechos fundamentales es mínima», dice. Para Carlota Cuatrecasas, la violencia de género es el caso más sensible y el último en el que implantaría modelos predictivos.
Ante la falta de previsión de cuándo se implantarán estos modelos en la Administración de Justicia, la magistrada defiende que ministerio, comunidades y Poder Judicial unan esfuerzos, ya que cada parte desarrolla un modelo: «Son sistemas caros, complejos y difíciles de conseguir con cierta calidad. Quizá la gestión de los recursos públicos no es la más eficiente».