Veto a los 'deepfakes' y dos años de prisión para quien sexualice a menores con IA: así queda la ley para proteger a tus hijos de internet

Publicado el 25/03/2025 por Diario Tecnología Artículo original

El Consejo de Ministros ha aprobado este martes en segunda vuelta la ley de protección de los menores en entornos digitales. Y con ello ha dado luz verde a una reforma en el Código Penal para incluir nuevos delitos contra los montajes realizados por inteligencia artificial (IA) que ataquen a los menores de edad. Se trata de una «adaptación» a las «nuevas formas de criminalidad», según explican desde el Ministerio de Juventud e Infancia, con el objetivo de poder «ejercer una protección eficaz frente a los nuevos delitos tecnológicos». Para combatirlos se incorpora un nuevo artículo, el 173 bis, que sanciona a «quienes, sin autorización de la persona afectada y con ánimo de menoscabar su integridad moral, difundan, exhiban o cedan su imagen corporal o audio de voz generada, modificada o recreada mediante sistemas automatizados, software, algoritmos, inteligencia artificial o cualquier otra tecnología, de modo que parezca real, simulando situaciones de contenido sexual o gravemente vejatorias». Hace referencia a los 'deepfakes' o también denominadas ultrafalsificaciones, donde se recrea a una persona a través de IA para poder hacer, por ejemplo, montajes pornográficos, como los que hicieron saltar todas las alarmas en Almendralejo en septiembre de 2023, cuando varias alumnas de un instituto de esta localidad de Badajoz fueron desnudadas con IA. Para aquellos que quebranten la ley se impondrán penas de cárcel de uno a dos años. Si fuera el caso de que la difusión se realiza a través de redes sociales o por cualquier medio que permita su acceso a un público amplio, la pena mínima de prisión será de un año y medio. Además y por primera vez, se establece una regulación específica del 'grooming', que implica la creación de una identidad falsa con el objetivo de engañar a un menor para cometer un delito sexual. Esto puede hacerse mediante una identidad inventada o simulando características personales distintas a las reales, como la edad o el género. Para abordar esta problemática, se introducen nuevas formas agravadas en varios artículos del Código Penal (181, 182, 183, 185, 186, 188 y 189), en el marco de la reforma impulsada por el ministro de Presidencia y Justicia, Félix Bolaños. El texto, redactado entre los ministerios de Infancia, Derechos Sociales, Transformación Digital y Justicia, también añade órdenes de alejamiento digitales, con el objetivo de un «mejor cumplimiento de la prevención general y especial en el ámbito de los delitos tecnológicos». En concreto, se modificarán los artículos 33, 39, 40, 45, 48, 56, 70 y 83 del Código Penal para añadir la «pena de prohibición de acceso o de comunicación a través de redes sociales, foros, plataformas de comunicación o cualquier otro lugar en el espacio virtual, cuando el delito se comete en su seno». La normativa, que se mantiene prácticamente intacta desde su aprobación el pasado junio y después de que dieran luz verde al informe redactado por el comité de 50 expertos, gira sobre dos ejes: por un lado alejar a niños y adolescentes de los peligros de internet, y por otro garantizar mecanismos necesarios para que puedan hacer un uso adecuado y seguro de la tecnología. Para ello, la norma incluye varias herramientas para evitar posibles 'puntos de fuga' que habiliten que el menor finalmente acceda a contenido que no debería ver debido a su edad o a los intereses de los progenitores. La primera de ellas es la inclusión de un control parental de manera gratuita y obligatoria que deberá venir instalado de fábrica en todos los productos electrónicos inteligentes (en concreto en teléfonos móviles, tabletas, ordenadores y Smart TV), para que los menores no puedan sortear esta medida. También eleva de 14 a 16 años la edad mínima para abrirse una cuenta en redes sociales. Esto se aplica para todas, ya sea Instagram, X, Twitch o TikTok. Este punto no estará exento de dificultades, ya que cada red social establece en sus términos y condiciones una edad mínima de acceso, que en el caso de TikTok, Twitter o Twitch son 13 años, 14 en Instagram, mientras que otras como YouTube se ajustan a la edad mínima legal estipulada en el territorio de uso del usuario. A su vez se recomienda evitar la exposición de los niños de entre 0 a 3 años a cualquier dispositivo digital. Más tarde, entre los 3 y los 6 años, solo deberían acceder a las pantallas de «forma puntual y bajo la supervisión de un adulto» para «mantener un contacto social, familiar o cuando se determine por resolución judicial». Además, se recomienda retrasar la entrega de un móvil al menor «lo máximo posible», y que si tiene uno en su poder entre los 12 y los 16 este debe ser analógico, sin conexión a internet. Con el fin de proteger a los niños, se recomienda que los padres y demás adultos del entorno del menor intenten evitar el uso de dispositivos en su presencia. Al menos, hasta que el niño cumpla los seis años. En palabras de Bolaños, «se obliga a los centros educativos a que regulen expresamente el uso de los móviles y dispositivos digitales tanto en las aulas como en las extraescolares y en el recreo». De este modo, destaca que en Educación Infantil «no se utilizarán dispositivos digitales individuales, aunque se permitirá el uso de herramientas didácticas colectivas bajo la supervisión adecuada del profesorado». Eso sí, siempre y cuando el menor tenga al menos 3 años. En Educación Primaria «se priorizará la enseñanza de manera analógica» y en Educación Secundaria Obligatoria y Formación Profesional Básica sólo se recurrirá a los dispositivos como «herramienta didáctica, debidamente justificada y supervisada, y atendiendo a la edad del alumnado». Los menores de Infantil y Primaria tendrán, además, prohibido el «uso de dispositivos electrónicos privados» en el centro escolar con fines pedagógicos, solo se permitiría su empleo por «razones excepcionales debidamente justificadas, situaciones especiales de salud o personales». En el caso de los de Secundaria, sí que se recoge el recurso a la tecnología como «herramienta pedagógica y debidamente supervisada» en caso de que sea necesario. Por otra parte, la ley establece una serie de preguntas obligatorias que los pediatras tendrán que realizar a los menores, para detectar si existe un uso problemático que conlleve la adicción o el aislamiento social. También se prohibirá el acceso de los menores a las cajas de botín o 'lootboxes', con la intención de evitar las conductas adictivas que estos sistemas generan en la mente de los jóvenes, al tener el mecanismo similar al de una apuesta. Finalmente, otro de los puntos que incluye la ley es un sistema de etiquetado de contenidos audiovisuales. Un sistema que ya existe para videojuegos o series y películas —como es el caso del 'Pan European Game Information' o PEGI a nivel europeo—. En esta ocasión aborda videos e imágenes que se publicaran en las distintas redes sociales, como YouTube, TikTok o X, donde aparecerá una advertencia previa de que puede ser un contenido no apto.