Grok, la herramienta de X(propiedad de Elon Musk), ha desatado una alarma internacional por su presunta implicación en la creación y difusión de imágenes sexualizadas de menores. La ministra de Juventud e Infancia, Sira Rego, ha solicitado formalmente a la Fiscalía General del Estado que investigue a la inteligencia artificial de la antigua conocida Twitter por presuntos delitos de difusión de material de violencia sexual contra la infancia.
La solicitud se produce después de la difusión de un informe de la organización IA Forensics, que ha evidenciado el uso sistemático de la tecnología para generar imágenes sexualizadas de mujeres y menores de edad, sin su consentimiento. Estos hechos, según el Ministerio, pueden constituir un delito de pornografía infantil(Artículo 189 del Código Penal) y un delito contra la integridad moral(Artículo 173).
Un riesgo creciente
El gobierno subraya la gravedad de esta vulneración, que no solo atenta contra la integridad de los menores, sino que también socava sus derechos fundamentales a la dignidad y la intimidad en el entorno digital. La ministra Rego, en su comunicado, hace referencia a una sentencia del Juzgado de Menores de Badajoz que condenó a varios individuos por manipular imágenes de menores utilizando inteligencia artificial. Este caso se suma a la creciente preocupación por la llamada violencia digital, una forma de abuso cada vez más común debido al uso irresponsable y sin restricciones de la tecnología.
Para la ministra, estas prácticas representan una vulneración de derechos fundamentales, por lo que considera urgente que la Fiscalía inicie una investigación a fondo. Rego recalca que es necesario frenar cualquier tipo de abuso contra la dignidad de los menores, particularmente en internet, donde la exposición y manipulación de su imagen se han convertido en una amenaza constante.
El contexto internacional
España no es el único país preocupado por el mal uso de Grok. Francia, Reino Unido e Irlanda han solicitado acciones similares contra la inteligencia artificial de X en las últimas semanas. El gobierno francés ya ha presentado unadenuncia por la creación y difusión de contenidos sexistas y sexualmente explícitos, mientras que el gobierno británico ha pedido medidas urgentes a la red social para frenar el uso de la IA en la creación de imágenes no consentidas de personas, incluidas mujeres y menores.
La Comisión Europea también ha anunciado que está investigando la proliferación de imágenes sexuales explícitas de personas sin su consentimiento, generadas mediante IA en diversas plataformas, incluido X.
Una nueva ley
Ante el creciente riesgo que suponen estas tecnologías emergentes, el Congreso de los Diputados está tramitando una nueva Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales. Esta legislación, promovida por el Ministerio de Juventud e Infancia, busca reforzar las salvaguardias para los menores en internet y regular el acceso a contenidos inapropiados. Una de las propuestas clave de la ley eselevar la edad mínima para usar redes sociales de 14 a 16 años, una medida que ya ha sido adoptada en Australia, que se convirtió en el primer país en prohibir el acceso a redes sociales a menores de 16 años.
La ley también tiene como objetivo garantizar la privacidad y la integridad de los menores frente a las nuevas formas de vulneración vinculadas al uso de tecnologías como la inteligencia artificial, reafirmando que el interés superior del menor debe prevalecer siempre frente a cualquier modelo de negocio digital.
El reto de regular la IA
Este escándalo pone en evidencia el gran desafío de regular el uso de la inteligencia artificial y las plataformas digitales. La velocidad con la que estas tecnologías se desarrollan supera a menudo la capacidad de los gobiernos para implementar regulaciones eficaces, lo que permite que situaciones como la explotación de menores queden expuestas de forma masiva. La falta de supervisión y la tendencia a priorizar modelos de negocio digitales sobre la protección de los derechos humanos ha generado un espacio para el abuso.
Por ello, los gobiernos de todo el mundo están presionando a las plataformas de redes sociales, como X, para que asuman su responsabilidad y adopten medidas que protejan a los menores en el entorno digital. Mientras tanto, la investigación de Grok sigue siendo una prioridad para las autoridades españolas, quienes se han comprometido a velar por la seguridad de la infancia en internet.
Hacia una normativa más estricta
Este caso pone de manifiesto la necesidad urgente de una regulación más estricta de las tecnologías emergentes, especialmente aquellas basadas en inteligencia artificial, que deben ser utilizadas de forma ética y respetuosa con los derechos humanos. La protección de los menores en el espacio digital debe ser una prioridad para todos los gobiernos, y los esfuerzos de España, Francia, Reino Unido y otros países para tomar acciones en este sentido son un paso hacia la creación de un entorno más seguro para las generaciones futuras.