¿Para quién es más retador, para las instuticiones, los docentes o los alumnos? Pinchevsky cree que para todos. “Se inicia entre estudiantes, a veces por rencillas personales; en una institución en Quito, donde algunas chicas estaban enemistadas, una subió un video haciendo quedar mal a otra; en ese momento no había deepfake, pero ahora no me sorprendería que lo usen”.El problema se extiende a docentes y a las autoridades. “Es difícil detectar al autor, por el anonimato de las redes sociales; aun así, muchas veces alguien dice quién es el que está haciendo esto”. Es decir, que más que buscar soluciones en la propia tecnología, cabe apelar a la sensibilidad de las personas que conocen del hecho. “Siempre ha habido rencillas entre estudiantes, así como hay entre adultos, la diferencia es que hoy hay formas muy efectivas y anónimas de hacer daño a compañeros o compañeras”.¿Qué acciones se pueden tomar para reforzar el sentido de humanidad de los estudiantes? “La tendencia en educación es a ir dependiendo menos de la tecnología; hasta hace pocos años la tendencia era a digitalizar todo lo que se pudiera”, dice Pinchevsky, recordando que Suecia está empeñado en revertir la digitalización y volver a los libros físicos.“El internet genera distracción por la sobreestimulación que provee. Las anteriores generaciones de estudiantes teníamos cinco canales de televisión; hoy hay streaming, plataformas, videos en internet, TikTok”, enumera el profesor. Menciona también que un estudio reciente en España concluyó que cuando un adolescente pasa dos horas al día en TikTok, sufre de menor autoestima y picos de estrés.“Los diagnósticos están hechos, ya tenemos suficiente tiempo con estas tecnologías para ver que a los adolescentes se les hace muy difícil manejarlas solos”. Nuestro medio, comenta Pinchevsky, está atrasado en la digitalización con respecto a los países desarrollados, por eso no hemos visto este fenómeno. “Pero cuando se los forma en este tema (digital), viene lo bueno y también lo malo”, dice, citando el mayor acceso, la posibilidad del anonimato y el conocimiento para actuar.Enfatiza que Ecuador aún no está allí, y que todavía se puede apelar a otras instancias. “En estratos sociales de menos recursos arreglan sus conflictos de otras maneras, más tradicionales. A nivel educativo, cuando ocurre un caso parecido, se investiga y la mayoría de veces alguien dice quién fue”.El ingeniero Harold Villalba (@alphabyte.ec) dice que el uso de este tipo de aplicaciones es violencia digital, y cuando sucede, hay que denunciarlo en la Fiscalía. “Es parte de la incitación al odio y vulneración de imagen”. ¿Cómo prevenirlo? “Uno podría configurar la privacidad de las publicaciones para que solo se compartan con un círculo de amigos, pero hay que pensar que los jóvenes, hoy, suelen tener en estos grupos a ‘amigos’ que, a fin de cuentas, resultan no serlo, y que pueden usar su imagen para desprestigiarlos”.En Estados Unidos, hace notar Villalba, se están aprobando legislaciones para prohibir el uso de imágenes humanas para crear material pornográfico sin consentimiento. “Pero son proyectos de ley, y en el primer mundo”, aporta Villalba, quien considera útil enseñar a detectar un ultrafalso. “A base de eso se puede denunciar este delito cibernético”.Un problema que se suma es la suplantación de voz, que se ha convertido también en un mecanismo de chantaje y estafa. “Lastimosamente, el avance tecnológico está perfeccionando esto”. La recomendación:“Hay que controlarnos, tratar de no ser presuntuosos con nuestra vida privada”, concluye el experto. “Es un mal que está atacando a nivel mundial, y en prevención y denuncia, estamos en etapas iniciales”. (F)","isAccessibleForFree":false,"hasPart":{"@type":"WebPageElement","isAccessibleForFree":"False","cssSelector":".paywall"}}
Publicidad
Si bien este problema afecta tanto a niños como a niñas, el 99 % de los desnudos falsos que se realizan son de mujeres y niñas, según la ONG Internet Matters. Foto: Shutterstock
Las aplicaciones y herramientas de desnudez preocupan a padres de familia y jóvenes en Europa; ¿sabe cómo detectar un ‘deepfake’?
La discusión sobre prohibir de herramientas de IA que 'desnudan' a una persona han llegado al Parlamento de Reino Unido, con datos de un estudio internacional.
Durante 2023 se vio un rápido aumento de deepfakes (ultrafalsos), específicamente, de desnudos, y se reveló que las herramientas de desnudez son fácilmente accesibles en línea. Esto ha generado ansiedad entre los jóvenes en países como el Reino Unido, y la petición de que estas aplicaciones sean prohibidas.