Los deepfakes de Katy Perry en la Met Gala demuestran la magnitud del problema: hasta su madre se los creyó
Publicado el 08/05/2024 por Diario Tecnología Artículo original
La Met Gala es una de las grandes citas del año para los famosos. El evento es un escaparate para personalidades y modistas, y los diseños y complementos extravagantes suelen dar mucho que hablar allí. Este año ha habido otro protagonista indirecto de esa celebración: los deepfakes creados con IA.
Deepfakes de Katy Perry y Rihanna. Estas dos célebres artistas no acudieron al evento, pero aún así aparecieron imágenes en redes sociales que las situaban allí. No eran imágenes reales, sino deepfakes generados con IA que confundieron a algunos fans.
Twitter detecta el engaño. Algunos usuarios de estas plataformas detectaron que esas imágenes eran falsas, pero además en Twitter (ahora X) se mostraron las llamadas "notas comunitarias" en algunas de ellas. Esos avisos permiten añadir información útil sobre las publicaciones de esta red social, a menudo sirviendo como forma de identificar si una noticia o una imagen es o o real.
Esa no es Katy Perry. Eso es justo lo que ocurió con Katy Perry, que aparecía en varias imágenes virales con un llamativo vestido cubierto de flores. Entre los detalles que ayudaron a detectar que la imagen era un deepfake estuvo el que mostraba la misma alfombra que en el evento de 2018 (al que sí asistieron tanto Rihanna como Katy Perry), y no el tejido con tonos verdes de este año que estaba también cubierto de vegetación.
Pero su madre creyó que sí lo era. Lo curioso es que como indican en Associated Press, ese deepfake de Katy Perry logró engañar a su propia madre. La artista publicó en su cuenta de Instagram una captura de la conversación con su madre en la que ésta admiraba el vestido. Su hija contestaba "lol mamá la IA te ha pillado, ¡CUIDADO!".
Rihanna, víctima también de los deepfakes. Otra de las imágenes que se hicieron virales fue la de Rihanna asistiendo con un espectacular vestido que también estaba cubierto de diseños florales. Sin embargo no era ella: auque inicialmente estaba confirmada su asistencia, los representantes de Voge indicaron que finalmente no fue a la Met Gala. Medios como People revelaron que había cogido una gripe y por eso no asistió al evento.
Entrenamiento sospechoso. La agencia Getty Images es la que captura y publica esas imágenes, y el año pasado demandaron a Stability AI alegando que la startup había copiado más de 12 millones de imágenes del banco de imágenes de Getty sin permiso. Recientemente la agencia ha creado su propio generador de imágenes entrenado con sus imágenes, pero se sospecha que las imágenes de Perry y Rihanna fueron creadas precisamente gracias a haber sido entrenadas con imágenes previas de la Met Gala publicadas por Getty.
Preocupación. Como sucediera en el pasado con las imágenes del Papa Francisco o de Donald Trump, estos deepfakes preocupan por la influencia y daños que pueden causar en los usuarios de estas redes. El caso de Taylor Swift fue especialmente notable recientemente, y hay quien apunta a que este tipo de engaños podrían incluso influir en procesos electorales.
Imagen | @jxries | @tereluprados
-
