Alibaba tiene nueva IA Open Source para generar vídeos. El problema es que se está usando para generar deepfakes pornográficos
Publicado el 01/03/2025 por Diario Tecnología Artículo original
La semana pasada Alibaba lanzó WanX 2.1, un nuevo modelo de IA para la generación de vídeo que compite con otros como Sora, de OpenAI, o Veo 2, de Google. La herramienta acabó convirtiéndose 24 horas después en la responsable de que docenas de vídeos pornográficos se publicaran en internet.
WanX 2.1 es además un modelo Open Source cuyo código está disponible en GitHub. Muy pronto los usuarios aficionados a los contenidos pornográficos y que además poseían los conocimientos técnicos adecuados aprovecharon ese modelo justo para eso: para generar vídeos porno.
Lo contaban en 404 Media, donde indicaban cómo en comunidades dedicadas a producir y compartir deepfakes pornográficos sin consentimiento de las personas representadas los usuarios estaban "salivando" por lo avanzado del modelo de Alibaba.
Algunos de esos vídeos se compartieron en Civitai, una plataforma en la que los usuarios comparten imágenes y vídeos generados con herramientas de IA, pero en la que también se compran y se venden dichas imágenes.
Las estadísticas que podemos encontrar en las páginas de los modelos de IA utilizados para crear esas imágenes y vídeo muestran cómo dichos modelos han sido descargados ya cientos de veces por parte de los usuarios.
Hay ya docenas de vídeos pornográficos creados con Wan 2.1, indican en 404 Media. En Civitai se permite que los usuarios compartan modelos de IA, pero no se permiten contenidos pornográficos no consentidos. Eso no impide que los usuarios descarguen los modelos y los usen para producir ellos mismos esos modelos, afirman en este medio.
El problema es una vez más el uso de unas herramientas que permiten desde luego generar vídeos perfectamente apropiados y espectaculares, pero que también puede ser aprovechado para usos como estos. Ya vimos cómo este tipo de deepfakes pueden llegar a ser muy rentables, y el avance de estas herramientas hace difícil controlar este tipo de contenidos.
utm_campaign=01_Mar_2025"> Javier Pastor .