La UE investiga a X por la difusión con Grok de contenido sexual de menores
SOCIEDAD
La nueva Ley de SErvicios Digitales europea obliga a la empresa a controlar estas publicaciones
27 ene 2026 . Actualizado a las 05:00 h.La Comisión Europea inició ayer una investigación contra la red social X debido a imágenes creadas por la inteligencia artificial Grok que pueden contener material ilegal en la Unión Europea, incluido abuso sexual a menores de edad. La institución encabezada por Ursula von der Leyen abre así un nuevo frente contra la plataforma de Elon Musk tras la multa de 120 millones de euros impuesta el pasado diciembre.
La investigación busca conocer si la red social trató y controló debidamente riesgos asociados con su herramienta Grok, a lo que obliga la Ley de Servicios Digitales europea, o bien permitió la difusión de material ilegal. Dentro del contenido creado por Grok hay un gran volumen de material sexualmente explícito elaborado sin consentimiento o que incluye a menores de edad. «Determinaremos si X ha cumplido con sus obligaciones legales (…) o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como un daño colateral de su servicio», ha declarado Henna Virkkunen, vicepresidenta ejecutiva de la Comisión y responsable de Soberanía Tecnológica, Seguridad y Democracia.
Entre finales del pasado mes de diciembre e inicios de este enero, se popularizó pedir a Grok que modificase imágenes añadiendo contenido sexual. El propio Musk se sumó a la tendencia pidiendo a la herramienta una foto de él con un bikini puesto. El Centro para Contrarrestar el Odio Digital (CCDH, por sus siglas en inglés) reveló que, en los 11 días de apogeo de este fenómeno, se generaron más de 3 millones de imágenes sexualizadas, unas 190 por minuto. Además, el CCDH calcula que unas 23.000 mostraban a niños y niñas. En España, el Ministerio de Juventud e Infancia solicitó a la Fiscalía General del Estado la investigación de este contenido generado por la IA, y en Italia la autoridad nacional de protección de datos alertó del riesgo de la creación de estas imágenes sin consentimiento.
Problemas legales
Los problemas legales de X con la UE no son nada nuevo. El pasado mes de diciembre se anunció una multa de 120 millones de euros a la plataforma por el diseño engañoso del check azul, así como por fallos en la transparencia y accesibilidad al repositorio de anuncios y por no permitir el acceso a sus datos públicos a investigadores. La insignia azul, destinada a la verificación de cuentas, está disponible para todos los usuarios de pago, lo que aumenta el riesgo de posibles estafas, suplantaciones de identidad y otros engaños. Como respuesta, la plataforma vetó la publicidad de la Comisión.
Esta nueva investigación se suma a la llevada a cabo contra X desde el año 2023 por múltiples vulneraciones de esta ley, conocida como Acta de Servicios Digitales (DSA) y por falta de transparencia. Sobre este otro asunto, la Comisión también ha anunciado la extensión del proceso relativo a sus sistemas de recomendación. Musk, por su parte, ha reaccionado con un supuesto ejercicio de transparencia anunciando la publicación en abierto del algoritmo de la red social X.
El uso de la inteligencia artificial (IA) se ha disparado en el último año entre los niños y los adolescentes españoles, que son quienes más utilizan herramientas como ChatGPT de entre los jóvenes de los principales países europeos. Así se desprende del estudio anual de Qustodio Perdidos en el scroll: la crianza en la era de los algoritmos, las apps y la IA, que analiza las tendencias y el uso digital durante el 2025 de 400.000 familias con hijos de entre 4 y 18 años de España, Francia, Reino Unido, Estados Unidos, Australia y Brasil. Los españoles también ocupan el primer puesto de entre los menores de 18 años que más tiempo usan a diario las redes sociales. Concretamente, 77 minutos al día, 10 más que en el 2024 (con un máximo histórico en agosto de 92 minutos). Casi la mitad de los menores a nivel nacional, el 45 %, se han creado al menos una cuenta antes de los 13 años, y hasta el 71 % la tiene antes de los 14 años. La situación preocupa al menos a la mitad de los padres, que apuestan (el 46 %) por fijar en los 16 años la edad mínima de acceso a las redes. El informe indica también que el 51 % de los padres que usan herramientas de control parental las instala, por primera vez, en los dispositivos de sus hijos entre los 10 y los 12 años, coincidiendo con la llegada del primer teléfono móvil (casi la mitad de los niños españoles lo reciben a los 12 años).
A nivel global, el tiempo registrado en el 2025 en redes sociales ascendió a 64 minutos al día, superando por primera vez la barrera de la hora desde el primer estudio realizado en el 2019. Por plataformas, TikTok es la red favorita, y aumenta su uso en casi un 12 % entre los menores españoles; Instagram alcanzó los 85 minutos al día; Pinterest aumentó su uso de 8 a 10 minutos al día; y BeReal y X disminuyeron de 7 a 4 minutos y de 10 a 9 minutos al día, respectivamente. Sobre ChatGPT, el uso más extendido es para hacer los deberes (55 %), pero el 48 % de los jóvenes también lo emplean para pedirle consejo, el 27 % recurren a la herramienta para generar imágenes o vídeos, y hasta el 17 % chatean con la IA. De momento, los niños españoles que recurren a bots de compañía son aún entre un 0,6 % y un 2,2 %.
Por su parte, el tiempo dedicado a los videojuegos, a nivel mundial, baja cinco minutos con respecto al 2024 (de 37 a 32 minutos al día) en dispositivos móviles y 10 minutos en ordenador (de 71 a 61 minutos por jornada).