Lo que antes requería programas complejos de edición, hoy se logra con un par de clicks. La Inteligencia Artificial (IA) ha abierto una puerta peligrosa a la creación de imágenes sexualizadas e hiperrealistas a partir de una simple fotografía, lo que genera un riesgo no tan lejano y no tan alejado especialmente para niñas y niños.
¿Qué es el ‘deepfake’ realizado con IA y por qué es tan peligroso para niñas y niños?
Según un reciente informe de Unicef, 1.2 millones de menores en el mundo, incluyendo a niños de Colombia, México y Brasil que ya han sido víctimas de este tipo de abuso digital, por lo que, como madres, padres y cuidadores, el desafío ya no es solo cuidar lo que sus hijos ven, sino proteger cómo el mundo los ve a ellos.
Una foto escolar o una imagen familiar en redes sociales podría ser suficiente para que la tecnología vulnere la integridad de un niño, teniendo en cuenta que el avance de la IA ha facilitado la creación de contenido pornográfico falso, una amenaza que hoy afecta a 1 de cada 25 menores en 11 países.
Esta alarmante cifra de Unicef pone sobre la mesa una realidad que los hogares no pueden ignorar y es la violencia sexual digital y el nuevo ‘deepfake’, el nuevo frente de batalla en la crianza moderna. ¿Sabemos realmente qué tan expuestos están las niñas, niños y jóvenes cuando usan plataformas digitales?
📲 También te puede interesar: Recomendaciones para jóvenes sobre el uso de redes sociales
Los deepfakes o ‘falsedades profundas’ son contenidos manipulados digitalmente que utilizan la inteligencia artificial para suplantar la identidad de una persona, y gracias a que el software aprende de fotos y videos reales, los resultados son tan realistas que resulta casi imposible distinguirlos de una imagen original, lo que facilita el engaño y la vulneración de la privacidad de las y los menores.
Esta brecha entre la innovación tecnológica y la seguridad infantil se hace cada vez más estrecha, teniendo en cuenta que estas aplicaciones que hoy en día pueden hasta ‘desnudar’ a una persona sin su consentimiento, requiere que estemos conscientes de las herramientas que tienen los padres para blindar la privacidad de sus hijas e hijos en un entorno digital cada vez más hostil.
📲 No te lo pierdas: El equipo Anti-bullying que busca combatir el acoso escolar
Adrián Vega, jefe de el Centro Cibernético Policial Dijin, advierte que:
“El padre de familia realmente genere un monitoreo y un protocolo a la hora de permitirle de que su hijo tenga un teléfono, tenga un paquete de datos y más aún que esté interactuando con redes sociales donde el potencial de riesgo se aumenta”.
Además, recomienda comunicarse al chat de WhatsApp 3232733411 donde expertos en delitos informáticos y ciberpolicias están a disposición de la comunidad las 24 horas del dia.
En el informativo Ahora, de Canal Capital se abordó este tema, así como la importancia de conocer lo que niñas, niños y jóvenes están consumiendo y publicando en redes sociales. Abrir el debate en los hogares y en las instituciones educativas es clave para proteger la integridad de las y los menores de edad:
En Mundos Cercanos también se abre el debate sobre el impacto de las redes sociales y cómo abre una nueva dimensión lejos de las guías tradicionales, allí se exploran los aspectos positivos y negativos de la digitalidad desde su propia mirada.