La UE investiga a X por Grok: más de 23.000 imágenes sexualizadas de menores en solo 11 días

La UE intensifica su regulación sobre las grandes tecnológicas ante los riesgos para la infancia

La Comisión Europea ha dado un paso significativo en su esfuerzo por hacer cumplir las normativas europeas en el ámbito digital, iniciando una investigación sobre Grok, la herramienta de inteligencia artificial de la red social X. Este movimiento surge a raíz de la detección de una función que permite la generación de imágenes sexualizadas de menores y otros contenidos ilegales, incluidos aquellos que podrían constituir material de abuso sexual infantil. La presidenta de la Comisión Europea, Ursula von der Leyen, ha subrayado que la UE «no delegará en Silicon Valley la protección de la infancia», reflejando la creciente preocupación por la seguridad de los usuarios más vulnerables en plataformas digitales.

El surgimiento de Grok ha generado controversia desde su lanzamiento, especialmente tras la negación del Holocausto por parte de esta herramienta en noviembre. En un periodo de tan solo once días, los usuarios de Grok produjeron aproximadamente 11 millones de imágenes manipuladas, de las cuales más de 23.000 involucraban a menores. Esta alarmante cifra ha llevado a Bruselas a investigar si la red social X está cumpliendo con las obligaciones impuestas por el reglamento de servicios digitales (DSA), especialmente en lo que respecta a la gestión de riesgos asociados con la violencia de género y el bienestar de sus usuarios.

Además de esta nueva investigación, X ya enfrenta un expediente abierto desde diciembre de 2023 debido a su sistema de recomendaciones, que ha sido objeto de sanciones por falta de transparencia y acceso inadecuado a datos de investigadores. La multa impuesta a la empresa ascendió a 120 millones de euros, lo que marca el inicio de un régimen de sanciones bajo el DSA. En caso de que se confirme el incumplimiento de las normativas en la nueva investigación, la sanción podría ser aún mayor, alcanzando hasta el 6% de los ingresos anuales de la compañía. Esta situación ha generado tensiones diplomáticas con Estados Unidos, donde varios funcionarios han criticado la regulación europea, alegando que limita la libertad de expresión y afecta desproporcionadamente a las empresas estadounidenses.

La entrada La UE investiga a X por Grok: más de 23.000 imágenes sexualizadas de menores en solo 11 días aparece primero en LaRepublica.es .