El Parlamento canadiense adoptó una nueva normativa que la ha situado entre las naciones líderes en la protección digital del menor: el proyecto de ley C-34, Safe Social Media Act. Este busca mitigar los peligros digitales a través de una serie de regulaciones para plataformas e inteligencias artificiales, con especial cuidado hacia todos aquellos menores de 16 años.
El proyecto de ley C-34 se puso en marcha como un ejercicio de “prevenir antes que curar”, instalando medidas como prohibir los perfiles de niños en redes sociales hasta que la empresa demuestre que tiene resoluciones para protegerlos. Su misión, de acuerdo al Gobierno, era adelantarse a los posibles problemas que iban a suceder a los menores en vez de abordarlos una vez ya habían sucedido. Algo que, según advirtió, era lo más común en el campo legal.
Siete riesgos y tres deberes
La legislación puso de manifiesto que existían siete riesgos derivados del uso cotidiano de los sistemas digitales:
- Contenido íntimo comunicado sin consentimiento, como imágenes sexuales creadas sintéticamente o deepfakes.
- Contenido que victimiza sexualmente a un niño o revictimiza a un sobreviviente.
- Contenido que induce a un niño a hacerse daño a sí mismo.
- Contenido utilizado para acosar (bullying) a un niño.
- Contenido que fomenta el odio.
- Contenido que incita a la violencia.
- Contenido de terrorismo o extremismo violento.
La pregunta era: ¿cómo se les pone freno? Para ello, la ley canadiense propuso, entre otros elementos, tres deberes que debían hacerse oficiales:
- El deber de proteger a los niños (Duty to Protect Children): dirigido tanto a redes como IA, obliga a implementar características intrínsecas de diseño para la seguridad de los niños.
- El deber de actuar de manera responsable (Duty to Act Responsibly): para las redes sociales se traduce principalmente en mitigar los riesgos de exposición a los siete tipos de contenido dañino y empezar a etiquetar el contenido generado por IA. Para los chatbots de IA se reconduce hacia tomar medidas de emergencia en situaciones de crisis (como cuando un usuario intenta autolesionarse) o evitar comportamientos dañinos del bot.
- El deber de hacer que cierto contenido sea inaccesible (Duty to Make Certain Content Inaccessible): esencialmente dirigido hacia las redes sociales (incluyendo transmisiones en vivo y sitios de contenido para adultos), explica que se obliga a eliminar rápidamente cualquier contenido que victimice al menor.
Y como cuerpo policial, de estos tres deberes se ocuparía la Comisión de Seguridad Digital de Canadá: un organismo cuya función es supervisar el cumplimiento de estas nuevas normas de transparencia, protección y priorización del bienestar de los menores.
¿Por qué es importante esta ley?
Como advertía el Gobierno de Canadá en su comunicado de prensa, sus servicios policiales llegaron a reportar 16.905 casos de explotación sexual a menores en línea en 2024 (un aumento del 347 % desde 2014). Sumado a ello, en 2019, uno de cada cuatro jóvenes, de entre 12 y 19 años, afirmaron haber sufrido bullying ese año anterior. «Es obvio por qué es una prioridad. Los chicos están muriendo», declaró el ministro de Identidad y Cultura canadiense, Marc Miller.
Desde la agencia EFE, se relaciona también la iniciativa con la matanza ocurrida en febrero en Tumbler Ridge (Canadá) ya que tiempo después se supo que la atacante (quien mató a ocho personas, entre ellas seis niños) había tenido conversaciones al respecto con ChatGPT; las cuales se habían señalado internamente, pero no se comunicaron a la policía.
La ley, además, cuenta con el respaldo de la opinión pública: un 75 % de los canadienses apoya una prohibición total de las redes sociales para menores de 16 años y un 87 % respalda vetar al menos determinadas plataformas para ese grupo de edad, de acuerdo a encuesta del Instituto Angus Reid. Se suma con ello a la lista de países defensores de estas legislaciones (como Noruega, Eslovenia, Turquía o España), siendo el primer caso registrado el de Australia en 2025.