Más Información
Cualquiera que navegue por Reddit podría caer en su trampa: con una brillante melena negra, unos grandes ojos claros y una tez blanca que raya lo porcelánico, Claudia se roba más de un suspiro entre los usuarios. “Eres absolutamente preciosa”, se lee entre los cientos de elogios que recibe.
La joven se hizo popular en la plataforma social por sus llamativos rasgos físicos, pero también por ofrecer fotos de desnudos a cualquiera que le enviase un mensaje por privado. Sus fotografías en lencería le valieron para ir adquiriendo seguidores en Reddit, dispuestos a pagar por sus servicios.
Todo eran alabanzas a su belleza y comentarios que la tildaban de “sexy” y de “diosa”, hasta que uno de los usuarios rompió la fantasía del resto al revelar la verdad detrás de la “mujer”.
Lee también: Pornografía deepfake, el terror de mujeres y de famosos
“Para aquellos que no lo saben, voy a matar su fantasía. Esto es literalmente una creación de Inteligencia Artificial; si ha trabajado con modelos de imágenes de IA y ha creado los suyos el tiempo suficiente, puede saberlo al mil por ciento. Siento arruinar la sorpresa, supongo”, escribió el sujeto.
El ácido comentario del internauta no resultó ser una mentira. Tal y como lo había explicado en unas cuantas palabras, Claudia era falsa, un osado proyecto de dos estudiantes de informática que, impulsados por el deseo de jugar una broma a los usuarios, decidieron crear un conjunto de fotos sorprendentemente convincentes con Inteligencia Artificial.
Lee también: México, el país donde más se utiliza programa espía Pegasus, pese a promesa de AMLO, dice NYT
Para la dupla de creadores Claudia era tan solo un pasatiempo divertido, pero, ahora, se ha convertido en la prueba reina del alcance de los programas generadores de imágenes con Inteligencia Artificial, que cada vez ganan más terreno en las actividades que se creía, anteriormente, solo estaban reservadas para seres humanos.Antes de que su secreto fuese descubierto, los informáticos alcanzaron a ganar alrededor de 100 dólares con su creación, una cifra baja, si se tiene en cuenta el alcance que obtuvieron con las reveladoras fotos de Claudia.
El equipo detrás de Claudia no quiso revelar su identidad, cuando estuvo dialogando con ‘Rolling Stone’, pero sí dio detalles de su creación: una modelo falsa que cautivó a los hombres solitarios y, luego, terminó por romperles el corazón.
"Se podría decir que toda esta cuenta es solo una prueba para ver si puedes engañar a las personas con imágenes de IA”, señalaron en un inicio a la revista citada anteriormente. “Podrías compararlo con los vtubers, crean sus propios personajes y juegan como una persona completamente diferente. Honestamente, no pensamos que obtendría tanta tracción”.
Claudia fue creada con Stable Diffusion, un modelo desarrollado por Runway y LMU Munich, cuya principal función es generar imágenes digitales a partir de descripciones en lenguaje natural. Al par de jóvenes tan solo les bastaron unas cuantas palabras detalladas para dar vida a su creación y, posteriormente, ponerla a facturar en Reddit.
Según relataron a ‘Rolling Stone’, la descripción que usaron fue la siguiente: selfie de una mujer en su casa “sin maquillaje con cabello negro, cabello hasta los hombros, fondo simple, cabello lacio y flequillo”. Después de eso, solo quedó esperar a que el programa hiciera su magia.
Cuando la verdadera identidad de Claudia salió a la luz, las ilusiones de los redditeros se fueron al piso. La decepción fue la reacción generalizada en los comentarios de la publicación, muchos se sintieron engañados y, unos cuantos más, estafados.
A la revista estadounidense citada anteriormente, el moderador de Reddit explicó que las fotografías generadas con Inteligencia Artificial no van en contra de las reglas de la plataforma. En ese caso, opta por un enfoque “caveat emptor”, que puede traducirse como la obligación que tiene un comprador ante la adquisición de cualquier producto o servicio.
“Si la gente piensa que es real y quiere hacer algo fuera de mi subreddit, eso depende de ellos”, dijo el moderador, cuya identidad no fue revelada, a la revista citada anteriormente.
Un tema preocupante
Claudia es una de las modelos creadas por Inteligencia Artificial más famosas para este momento, pero no es la única y tampoco la última, al parecer. Con el auge de los programas generadores de imágenes con IA, este es un fenómeno que se está dando cada vez más, sobre todo en la industria de la pornografía.
Los estudiantes de informática crearon a Claudia para bromear con los usuarios y, de paso, ganaron algo de dinero. Sin embargo, existen decenas de perfiles más en Instagram, Reddit, Twitter y OnlyFans que utilizan el mismo modus operandi: publican imágenes artificiales subidas de tono y ofrecen a los espectadores pagar para ver más.
El dilema con la pluralización de este tipo de perfiles es que a su creación están ligados una serie de conflictos éticos como, por ejemplo, la falsificación profunda. Las deep fakes, como también son llamadas, no son más que “archivos de vídeo, imagen o voz manipulados mediante un software de Inteligencia Artificial” que hace que luzcan reales, de acuerdo con LISA Institute.
San Gregory, quien hace parte de Witness -un grupo sin fines de lucro que se especializa en tecnología de video y derechos humanos- dijo para The Washington Post: “Para humillar y sacar a las mujeres de la esfera pública, ni siquiera necesitan verse exactamente como las mujeres. Confían en el efecto de shock”.
A la lista de retos por afrontar se suma que los modelos de Inteligencia Artificial fueron entrenados con personas reales, por lo que existe la posibilidad, aunque sea mínima, de que las imágenes generadas tengan cierto parecido con la realidad.
“No creo que sea probable, y no creo que suceda a menudo, pero puede suceder que alguien pueda tener una imagen de Facebook y su parecido termine en imágenes no consensuadas”, aclaró Hany Farid, profesor de ciencias de la computación en la Universidad de California, a Rolling Stone.
* El Grupo de Diarios América (GDA), al cual pertenece EL UNIVERSAL, es una red de medios líderes fundada en 1991, que promueve los valores democráticos, la prensa independiente y la libertad de expresión en América Latina a través del periodismo de calidad para nuestras audiencias.
Suscríbete aquí para recibir directo en tu correo nuestras newsletters sobre noticias del día, opinión, planes para el fin de semana y muchas opciones más.
vare
