En su lucha contra la impunidad de las grandes tecnologías, el Consejo de Ministros, con el presidente Pedro Sánchez a la cabeza, ha decidido pedirle a la Fiscalía General del Estado que ponga en marcha todos los recursos posibles para limitar la creación y difusión de pornografía infantil con herramientas de inteligencia artificial (IA) en redes sociales.
De este modo, el Gobierno avanza en una de sus cinco medidas que había anunciado Pedro Sánchez para poner coto a los problemas provocados por las plataformas tecnológicas. “No podemos permitir, a través del algoritmo, que se pueda amplificar o amparar todo esto”, advirtió la portavoz del Gobierno Elma Saiz. Para el Ejecutivo, la confluencia entre IA generativa y redes sociales ha creado un ecosistema de riesgo en el que ha proliferado la promoción y distribución de contenidos sexuales y pornográficos.
La protección de los menores
Saiz tiene claro que “está en juego la seguridad de nuestros hijos, de nuestras hijas, la protección de su imagen, de su intimidad y de su libertad”. Según explicó la portavoz, el ministro de Justicia, Félix Bolaños, se va a dirigir a la Fiscalía con un informe en el que muestra lo que pasa en otros países. “Damos un paso más para garantizar los derechos de la infancia en redes sociales”, comentó la ministra de Juventud e Infancia, Sira Rego en su perfil de redes sociales Bluesky, la competencia de X.
Pedro Sánchez había anunciado la puesta en marcha de esta medida para que se investiguen los posibles delitos que las plataformas digitales “podrían estar cometiendo por la creación y difusión de pornografía infantil mediante sus IA”, en referencia a estos programas capaces de crear imágenes sexualizadas de menores (deepfakes). Se trata de una de las cinco medidas que el propio Sánchez anunció el 3 de febrero en Dubái contra las redes sociales, que “se han convertido en un Estado fallido, en el que se ignoran las leyes y se toleran los delitos”.
Además, en su cuenta de X, el presidente publicó que “estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”.
Tres millones de imágenes de contenido sexual
El Centro para Contrarrestar el Odio Digital publicó un estudio sobre las imágenes que generó Grok, la IA de Elon Musk, entre el 29 de diciembre y el 8 de enero: los usuarios que utilizaron esta herramienta crearon tres millones de imágenes de contenido sexual explícito, de las que al menos 23.000 mostraban a menores. Más del 90% de esos vídeos falsos e imágenes hiperrealistas suelen afectar a mujeres y niñas, según diversos estudios, como sucedió en el caso de las menores sexualizadas con estos programas en un instituto de Almendralejo.
Lo que ha hecho el Consejo de Ministros es instar a la fiscal general del Estado, Teresa Peramato, a investigar esos posibles delitos de pornografía infantil y violencia sexual digital a través del Ministerio de la Presidencia. Así, el Ejecutivo de Pedro Sánchez pedirá que “ejerza las acciones penales que considere oportunas y establezca criterios de actuación y mecanismos que permitan a las víctimas, así como a sus tutores y representantes legales” defender sus derechos ante la Fiscalía.
El artículo mencionado por Pedro Sánchez, el 8 del Estatuto Orgánico del Ministerio Fiscal, establece que “el Gobierno podrá interesar del fiscal general del Estado que promueva ante los tribunales las actuaciones pertinentes en orden a la defensa del interés público”. Una vez recibida la comunicación por Peramato tendrá que convocar a la Junta de Fiscales de Sala para que emita su opinión, aunque no será vinculante. La última palabra la tiene la propia jefa del Ministerio Público.
