«O algoritmo non pode substituír o modo de decisión dos seres humanos»

José Antonio Seoane, doutor en Filosofía do Dereito e decano da facultade de Dereito da Universidade da Coruña, cre que sa disciplinas do coñecemento máis clásicas van rexurdir pola emerxencia dos problemas dixitais


Redacción / La Voz

Hai entrevistas que non deberían rematar nunca. A conversa con José Antonio Seoane (Ferrol, 1967) flúe lixeira pese á densidade do asunto a tratar. Tecnoloxía e humanidades. Uns e ceros contra eles e uves, un conflito que non existe. Ou si. O decano de Dereito da UdC, unha autoridade en bioética médica, cre que esta debe ser unha viaxe compartida polos profesionais de todo tipo de coñecementos, pola sociedade en definitiva.

-¿Cál é a súa sensación? ¿Cre que nos detemos moito nas enxeñerías e pouco nas humanidades?

-Asistimos a un cambio vertixinoso, radical. O cambio tecnolóxico provoca que se poña moita atención na novidade en sí mesma e pouca no significado desa novidade. Un elemento diferenciador desta era é que cambian os suxeitos da relación. Ata agora as máquinas eran unha ferramenta, pero agora a máquina pode ser o teu interlocutor. Convértese no suxeito, de aí as discusións sobre si deben cotizar os robots. Pero sobre todo cambia a nosa forma de relacionarnos. As decisións humanas, a maior parte delas, son prudenciais, aproximativas. Ti non podes prever nunca o que vas facer, cal é a resposta correcta, pero estas novas tecnoloxías prometen sempre unha decisión correcta, que é a do algoritmo: eu vou determinar o que che vai pasar mañá.

-E esa é a gran dúbida que prantexan os algoritmos, non todo é predicible.

-Non hai previsión que esgote a realidade. O algoritmo é unha ferramenta de apoio moi útil, pero nunca pode substituír o modo de decisión dos seres humanos. Entre outras cousas, porque o algoritmo presume que a decisión correcta é a que é coherente con todo o que fixeches, pero nós temos a capacidade de cambiar todo o noso pasado. E a coherencia é precisamente desbotar todo o feito para cambiar de plans. Iso non o pode prever unha máquina.

-Falamos de libre albedrío.

-Así é. As humanidades teñen que defender este libre albedrío, o que che van a demostrar é que o propio do razoamento humano non é o demostrativo, non sempre é doado predicir.

-Parece claro xa que un dos seus traballos é poñer freo aos sesgos dos sistemas de IA.

-Os sesgos xa os temos cos seres humanos. O que ocorre é que o poder imperativo dun algoritmo é moito maior. Ante unha persoa podemos argumentar, ante unha base de datos ou un código binario non. E se leva 15.000 casos nunha dirección vaise enrocar, aínda que o caso 15.001 sexa distinto. O algoritmo é bo se é boa a súa programación, por iso temos que garantir que nesa programación haxa pluralidade.

-Deduzo que é optimista sobre o futuro destas disciplinas.

-As humanidades van renacer. Carreiras como Filosofía que estaban en decadencia van renacer. Non sei se a carreira en si ou o interese pola disciplina, porque son coñecementos insustituibles e acompañan á humanidade dende hai séculos.

-¿Non lle teme á convivencia de perfís dixitais e humanistas?

-Sen colaboración non vai ser posible resolver isto. Nin os filósofos sós, nin os técnicos sós. Sen esa conversa compartida non imos chegar a unha solución aos problemas deste tempo.

-Pero os donos deste tempo son os xigantes tecnolóxicos, ¿cre que están dispostos a ceder terreo? ¿Que lle van aportar as humanidades ao mundo dixital?

-O coñecemento e o poder sempre teñen unha relación tensa. A ética o que che di é que non sempre é correcto o fin que persegues, senón tamén como o consegues, o medio que usas. O caso é que a realidade nesta era deixa de ser puramente física, pero temos que facernos as mesmas preguntas de sempre: ¿Que tipo de sociedade queremos? ¿Prefiro unha sociedade na que prime a eficiencia ou a xustiza? ¿Unha na que haxa máis ou menos desigualdade? Para un filósofo son as mesmas preguntas de sempre; o que pasa é que os medios a analizar son moi distintos. Un filósofo sabe analizar os valores e os deberes, pero ten que coñecer os feitos aos que aplicar eses valores, e os feitos son novos, por iso necesito un técnico ao carón.

-A economía asociada á tecnoloxía está a concentrar a riqueza en moi poucas mans...

-É certo que o mundo que crean é deles; eles toman as decisións. Pero creo que hai motivos para evitalo. Non quero un mundo no que o diñeiro estea en mans duns poucos e nolo cedan. Non quero un mundo igual, ollo, senón un mundo que permita ter unha vida satisfactoria ao conxunto maioritario da sociedade. Unha sociedade marxinada é unha sociedade que te vai atacar... O problema agora é que nin sequera Europa é capaz de regular a estas corporacións transnacionais. O progreso ás veces é parar, avanzar sen rumbo non é necesariamente progreso. Por iso volvemos de novo á pregunta de antes: ¿Para que quero isto? Google, por exemplo, está a crear normas de facto, pero o peor é que non rinde contas. Esas cuestións son tecnicamente interesantes para nós, para os xuristas.

La tecnología pide a gritos que le paren los pies. Es la hora de las humanidades

Manuel Blanco

Pese a la obsesión de las empresas por los profesionales digitales, los grandes creadores de los sistemas de IA aseguran que los conocimientos tradicionales serán indispensables en esta era. Filósofos, juristas, lingüistas o historiadores tendrán un papel protagonista para contener los sesgos de los algoritmos

A finales de los setenta, Geoffrey Franglen, el vicedecano de la Escuela de Medicina del londinense Hospital St. George’s, decidió diseñar un algoritmo para agilizar las solicitudes de admisión de los más de 2.000 estudiantes que cada año aspiraban a matricularse en su prestigiosa facultad. Era él quien se ocupaba de tan farragosa tarea. Y se propuso automatizarla. Su idea resultó un desastre. Al cabo de un tiempo, el personal del hospital empezó a criticar la falta de diversidad de los perfiles seleccionados: casi todos eran varones y caucásicos. Las protestas desencadenaron una investigación que acabó en 1986 en la Comisión para la Igualdad Racial del Reino Unido. Franglen, seguramente sin ser consciente de ello, había creado uno de los primeros algoritmos machistas y racistas de la historia. Tres décadas después, esta amenaza es un riesgo real. Y de un impacto notablemente mayor. La proliferación de algoritmos y sistemas de inteligencia artificial (IA) que cada día intervienen, e interfieren, en la vida de millones de seres humanos ha devuelto al primer plano la importancia de disciplinas clásicas: filosofía, derecho, historia... ¿Su misión? Contener los potenciales desmanes de unas máquinas llamadas a transformar el mundo que conocemos.

Seguir leyendo

Conoce toda nuestra oferta de newsletters

Hemos creado para ti una selección de contenidos para que los recibas cómodamente en tu correo electrónico. Descubre nuestro nuevo servicio.

Votación
9 votos
Comentarios

«O algoritmo non pode substituír o modo de decisión dos seres humanos»