Hace unas semanas, durante una de mis formaciones, una alumna me preguntó si la IA entiende de desigualdades. Mi respuesta fue a través de una mirada seria y de preocupación que no supe disimular. Si queremos entender el mundo de la desigualdad solo tenemos que analizar las pantallas de los más jóvenes. Aquí es donde están construyendo su «identidad »y esto me da mucho miedo.
La IA es el nuevo confidente de nuestros jóvenes, es la «amiga tóxica» que lo escucha todo, que lo responde todo y que jamás cuestiona ni permite cuestionar. Acuden a ella de forma inmediata para validarse, entender sin darle espacio al pensamiento crítico que necesitamos para sesgar la información real de la irreal, lo importante de lo trivial, lo humano de lo automatizado. Y sin saberlo y con mucho sigilo ocurre algo inquietante y en silencio. Según Naciones Unidas, los depredadores ya están utilizando la IA para analizar el comportamiento y el estado emocional de los menores en estado real. La tecnología que prometía democratizar el conocimiento y satisfacernos de herramientas de ayuda empieza tener un doble filo, donde el abuso empieza a colarse a través de los cables.
«La IA es el nuevo confidente de nuestros jóvenes, es la “amiga tóxica” que lo escucha todo, que lo responde todo y que jamás cuestiona ni permite cuestionar»
Pero la preocupación no acaba ahí.
Si hablamos del ámbito laboral, el algoritmo no solo refleja las desigualdades: las aumenta. Como si retrocediéramos 50 años, los estereotipos y barreras ancestrales vuelven a cobrar protagonismo arropados por una nueva legitimidad digital. La típica frase del siglo pasado que estábamos cansados de escuchar: «Los hombres son de ciencias y las mujeres son de letras» vuelve a colarse en nuestras vidas a través de las pantallas y, lo peor, no lo corregimos. ¿Estaremos avanzando o somos las marionetas de lo que dicta la IA?
Además, la IA considera «impresionante »que una mujer cobre más que un hombre y define su liderazgo como una «gesta heroica» como si el liderazgo femenino fuera algo excepcional.
El sesgo se vuelve más retorcido cuando descendemos al terreno sobre los conflictos íntimos. A las mujeres nos identifica como sujetos vulnerables y frágiles. A los hombres, los representa como resilientes invitándoles a ignorar sus propios riesgos emocionales y físicos. Ese «Tú puedes con todo» es un mensaje muy peligroso que actúa como el guardián del patriarcado negándoles el derecho a desarrollar la inteligencia emocional. Así, la IA no solo nos informa, sino que moldea a las generaciones más jóvenes.
La polarización de estos mensajes reabre la brecha generacional y refuerza narrativas que creíamos obsoletas. El problema al que nos enfrentamos no es cómo está actuando la IA, sino qué estamos haciendo nosotros con ella. ¿Quién la está alimentando de las creencias ancestrales de nuestra historia? La respuesta es muy incómoda.
En este contexto de incertidumbre, la globalización de la IA da paso a un gran problema silencioso ético y moral. Las nuevas generaciones buscan su identidad a través la validación automática e inmediata de los algoritmos que repiten mensajes y consejos de: «lo normal» para encajar en la sociedad. A los chicos se les exige performance y a las chicas superar los cánones de belleza estipulados por un robot.
Según el informe de LLYC en el 2025, el 80 % de las adolescentes utiliza filtros de mejora estética basados en la IA y, esto me hace estremecer. ¿Qué ocurre cuando no somos capaces de aceptarnos tal cual somos? ¿Qué identidad estamos construyendo?
Entender nuestra propia mente es más importante que entender la IA.
La IA nos abruma como abruma todo lo que dejamos sin cuidar mientras miramos a otro lado. Recurrimos a la IA porque nos da miedo barrer dentro de casa para no enfrentarnos a nuestros sentimientos y miedos. Hoy nos toca reeducarnos porque está claro que no lo estamos haciendo bien.
«Hoy nos toca reeducarnos porque está claro que no lo estamos haciendo bien»
La IA no es nuestro enemigo, nuestro enemigo somos nosotros mismos porque recurrimos a ella sin educación y sin conocimiento. Este problema no es solo personal, es también social. Cada vez que la llenamos de datos sin contexto o sin entender el fondo de un asunto, se abre la caja de pandora sin filtros, con contenido vacío, sesgado y deshumanizado. Y este contenido influye en quienes están aprendiendo a decidir, ser y sentir comprometiendo así, su integridad, su estabilidad emocional y social.
En un mundo hiperconectado, alimentar a la IA con fundamentos no solo es un signo de humanidad, es una obligación ética. El monstruo no se crea solo. El monstruo somos nosotros.
¿Seremos capaces de reeducarnos para alimentar la IA de forma coherente?