En un mundo donde la inteligencia artificial se ha convertido en un elemento esencial tanto para empresas como para la vida cotidiana, surgen también preocupaciones acerca de su uso indebido. El fenómeno del deepfake, particularmente su impacto entre los jóvenes, representa un desafío emergente en el ámbito de la ciberseguridad y la ética digital.
Columnas al director
El auge del deepfake y su impacto en los jóvenes
El crecimiento tecnológico en 2023 ha surgido de la mano de la IA, destacándose por su contribución positiva en distintos sectores. No obstante, su mal uso ha generado preocupaciones, particularmente entre los jóvenes. Casos en Latinoamérica y España han evidenciado el empleo de deepfakes para crear contenido sexual indebido, afectando a menores de edad y sus entornos educativos.
Daniela Zárate
Mientras la IA ofrece innumerables beneficios, su mal uso ha llevado a situaciones de abuso y extorsión. El investigador Mario Micucci de ESET Latinoamérica enfatiza que la raíz del problema no es la tecnología en sí, sino la falta de educación digital en los jóvenes:
Es importante aclarar que la tecnología no es el problema. La verdadera raíz está en la falta de educación digital que existe en los jóvenes. Si bien, los adolescente hoy están creciendo a la par del mundo tecnológico, es prioritaria la implementación de charlas, cursos y demás herramientas en las zonas educativas para entregar a estos niños y adolescentes buenas prácticas para el uso correcto de la IA.
Un caso reciente fue publicado el miércoles 25 de octubre el Internet Watch Foundation (IWF) publicó un informe en el que alertó cómo grupos de pedófilos utilizan esta herramienta para crear y compartir imágenes con contenido sexual de menores de edad.
En este estudio, la fundación halló imágenes de cientos de víctimas creadas a partir de IA. En otros foros de la web oscura había imágenes de niños famosos que habían sido retocadas para entregar a la fotografía una connotación sexual.
Ante el incremento de ataques de suplantación de identidad, es vital fomentar la prevención a través de la educación. ESET sugiere prácticas como el cuidado de la información publicada en redes sociales, la protección de cuentas personales y la educación digital continua. Además, es importante desarrollar un ojo crítico para detectar imágenes alteradas mediante IA y usar herramientas como Google Reverse Image Search para verificar su autenticidad.
Judith Ovando
En esta era digital, es imprescindible ser conscientes de los riesgos y oportunidades que la IA presenta. Si bien la tecnología puede ser una herramienta poderosa para el avance y el entretenimiento, también es necesario estar alerta ante su potencial uso indebido. Las iniciativas de educación y concienciación digital juegan un rol fundamental en la protección de los más vulnerables, especialmente los jóvenes.
¿Cómo crees que pueden las instituciones educativas y las familias colaborar para fortalecer la educación digital y prevenir el mal uso de la IA entre los jóvenes?
Judith Ovando
