Los derechos de la niñez, están en riesgo y su integridad amenazada, tras una nueva alerta detectada respecto al uso de la Inteligencia Artificial para emitir fotografías falsas con tintes pornográficos.
Estos materiales denigran la imagen de las niñas, niños y adolescentes, por lo que propuse una reforma a la Ley de los Derechos de los NNA, a fin de que se adicionen medidas de prevención.
La proliferación de tecnologías de inteligencia artificial (IA) ha traído avances significativos, pero hay preocupaciones por el uso indebido, en contra de menores de edad.
El rápido avance de las herramientas de inteligencia artificial (IA) capaces de crear imágenes realistas ha provocado un auge de la pornografía infantil y la extorsión a niños y adolescentes, han asegurado los expertos en seguridad digital.
Hay entes perversos que aprovechan las fotografías publicadas en redes sociales y, apoyándose en las tecnologías actuales de edición, crean material pornográfico. Estas imágenes no solo son distribuidas por Internet, sino utilizadas para sacar provecho económico de quienes aparecen en ellas.
«Alguien puede tomar una imagen normal de un adolescente vestido, editarla y convertirla en un desnudo, e intentar chantajear a ese adolescente».
Producir este material ahora es «realmente fácil». Además, a medida que los algoritmos de los modelos de IA generativos procesan más y más de esas imágenes, «básicamente pueden mejorarse a sí mismos». «Hay un aumento del 200 % en imágenes de IA fotorrealistas de pornografía infantil».
La manipulación de imágenes mediante IA, especialmente las conocidas como «deepfakes», ha alcanzado un nivel de sofisticación que dificulta la distinción entre lo real y lo falso. Cuando estas tecnologías se utilizan para crear contenido pornográfico falso que involucra a menores, se amplifica significativamente el daño.
Estas imágenes no solo vulneran la privacidad y la dignidad de las víctimas, sino que también perpetúan el abuso y la explotación infantil en línea.
Las consecuencias de la distribución de imágenes falsas son devastadoras. Las víctimas pueden sufrir traumas psicológicos profundos, incluyendo ansiedad, depresión y trastornos de estrés postraumático. A nivel social, la difusión de tales imágenes puede estigmatizar a las víctimas, afectando su reputación y oportunidades futuras.
Además, la presencia de estas imágenes en internet perpetúa una cultura de abuso y explotación que es difícil de erradicar.
El primer paso para combatir esta problemática es la implementación de leyes robustas y claras que penalicen la creación y distribución de imágenes falsas con contenido dañino. Es esencial que estas leyes incluyan:
Sanciones Severas: Penalizaciones adecuadas para quienes creen y distribuyan estas imágenes.
Derecho al Olvido: Facilitar a las víctimas el proceso de eliminación de estas imágenes de internet.
Protección Integral: Mecanismos legales que protejan a las víctimas, incluyendo asistencia psicológica y apoyo legal.
Proteger a niñas, niños y adolescentes de la creación y distribución de fotografías falsas es una responsabilidad colectiva que requiere medidas legales, tecnológicas y educativas.
Solo a través de un esfuerzo conjunto podremos salvaguardar la dignidad y el bienestar de nuestros jóvenes en la era digital. Implementar estas medidas no solo es una necesidad urgente, sino también un imperativo moral para construir una sociedad más justa y segura para todos.
Artículo 86 Bis. – ….Se deberán establecer las medidas de prevención y de protección para que un juez ordene de inmediato el retiro de todas estas imágenes y se pueda identificar a través de la Policía Cibernética las plataformas y la manera en que se está haciendo la distribución de estas imágenes, que están dañando la imagen de las niñas, niños y adolescentes en el Estado.
