El revuelo causado desde la semana pasada por imágenes sexualmente explícitas creadas con inteligencia artificial de la estrella de la música Taylor Swift sigue vivo.

Este lunes, la red social X (exTwitter) ha bloqueado búsquedas relacionadas con Taylor Swift, lo que resalta la creciente preocupación entre las redes sociales por abordar el problema de los deepfakes. Muchos usuarios comparten imágenes y audios realistas generados con IA que pueden ser utilizados para representar a individuos famosos en situaciones comprometedoras o engañosas sin su consentimiento.

404 Media reveló que las imágenes falsas de Swift que se popularizaron en X se originaron en un grupo de chat de Telegram, donde los usuarios mencionaron haber utilizado Designer, una herramienta de inteligencia artificial de Microsoft, para generar dicho contenido.

Publicidad

Desde la semana anterior, fanáticos de la cantante pop Taylor Swift, políticos estadounidenses e incluso la Casa Blanca expresaron su indignación por imágenes pornográficas falsas de la estrella que se volvieron virales en la red social X y todavía estaban disponibles en otras plataformas.

Una de esas imágenes fue vista 47 millones de veces en X, exTwitter, antes de su eliminación el jueves. Según medios estadounidenses, la publicación estuvo visible en la plataforma durante aproximadamente 17 horas.

Deepfake

Las imágenes pornográficas “deepfake” -falsas pero extremadamente realistas- de celebridades no son nuevas. Pero a activistas y autoridades les preocupa que herramientas fáciles de usar que emplean inteligencia artificial (IA) generativa creen una avalancha incontrolable de contenido tóxico o dañino.

Publicidad

El ataque a Swift, la segunda artista más escuchada del mundo en la plataforma Spotify después del rapero canadiense Drake, podría arrojar nueva luz sobre el fenómeno.

“El único lado positivo de que esto le haya sucedido a Taylor Swift es que probablemente tenga suficiente poder para aprobar una legislación que lo elimine. Ustedes están enfermos”, escribió la influencer Danisha Carter en X.

Publicidad

X es una de las plataformas de contenido pornográfico más grandes del mundo, afirman algunos analistas, ya que sus políticas sobre desnudez son más flexibles que las de Facebook o Instagram, propiedad de Meta.

‘Tolerancia cero’

Apple y Google tienen la potestad de intervenir para controlar los contenidos que circulan en las aplicaciones mediante las reglas que imponen sus sistemas operativos móviles, pero hasta ahora ambos han tolerado esta situación en X.

En un comunicado, X aclaró que “publicar imágenes de desnudos no consensuales (NCN) está estrictamente prohibido” en su plataforma. “Tenemos una política de tolerancia cero hacia ese contenido”.

La red social, propiedad del magnate Elon Musk, afirmó que estaba “eliminando activamente todas las imágenes identificadas y tomando las medidas apropiadas contra las cuentas responsables de publicarlas”.

Publicidad

Además, resaltó que estaba “vigilando de cerca la situación para garantizar que cualquier otra violación se aborde de inmediato y se elimine el contenido”.

Un estudio de 2019 estimó que el 96% de los videos del tipo “deepfake” eran pornográficos.

Según una investigación citada por la revista Wired, en los primeros nueve meses de 2023 se subieron 113.000 videos “deepfake” a los sitios web pornográficos más populares. (I)