10 months ago
37
“Cuando vuelva a ser presidente vamos a seguir construyendo el muro. Haremos a América segura de nuevo”. Con estos mensajes se ha difundido un supuesto fragmento del podcast del cómico estadounidense Joe Rogan en el que habría entrevistado al expresidente de los Estados Unidos Donald Trump. Pero este vídeo no es real y esta conversación nunca ha tenido lugar, sino que se tratan de voces clonadas con inteligencia artificial. Hay más casos de este tipo de vídeos falsos de Rogan creados con IA que se están difundiendo.
Este vídeo difunde contenidos creados con la voz clonada de Joe Rogan y Donald Trump, no es real
The Joe Rogan Experience es el podcast de Joe Rogan (cómico estadounidense polémico por dar voz a discursos antivacunas y negacionistas de la COVID-19) que lleva en emisión desde 2009 y que cuenta con una media de 11 millones de visualizaciones por programa, según TIME. En este espacio el locutor entrevista a diferentes celebridades (desde Elon Musk a Bernie Sanders) para hablar de diferentes temas, como política, filosofía o eventos paranormales.
Pero en redes sociales se ha comenzado a difundir un fragmento de este programa en el que supuestamente el presentador habría entrevistado al expresidente de los Estados Unidos Donald Trump. En el vídeo que se difunde se puede escuchar como Rogan pregunta al magnate sobre cuestiones migratorias. “Seguiremos construyendo el muro. Cuando vuelva a ser presidente haremos a América segura de nuevo”, habría respondido Donald Trump, que actualmente se encuentra en carrera para ser el candidato del Partido Republicano de cara a las elecciones presidenciales de 2024.
Pero este vídeo no es real y esta conversación nunca ha tenido lugar. Se trata de un audio creado a través de inteligencia artificial, en concreto mediante voces clonadas: voces que imitan el habla, el timbre, y la prosodia (elementos como el acento, el tono de la voz, la entonación…) de una persona concreta después de entrenarse con sus grabaciones. Para conseguir estas voces clonadas es necesario seguir una serie de procesos para que un programa de IA aprenda a hablar como nosotros, sobre lo que puedes leer más detalles aquí.
Estos contenidos parten del canal de Youtube The Joe Rogan AI Experience, un espacio dedicado a crear supuestos episodios de este podcast a través de la inteligencia artificial. El creador de estos vídeos ha empleado tanto voces clonadas como imágenes generadas con IA para crear programas con invitados ficticios. No estaríamos hablando de un deepfake, ya que son imágenes estáticas que no recrean los gestos de estas personas.
En el caso de otros vídeos de TikTok se ha utilizado esta tecnología para clonar la voz del presentador y difundir teorías de la conspiración, aunque se puede observar como el habla de Joe Rogan no sigue el movimiento de sus labios, que están tapados por subtítulos. Al igual que en los contenidos de The Joe Rogan AI Experiencie, en este caso la inteligencia artificial sólo se ha utilizado para clonar su forma de hablar (a diferencia de un deepfake, donde también se utiliza la IA para recrear la cara y los gestos de una persona).
Algunos de estos vídeos también intercalan supuestas imágenes de sucesos que nunca han ocurrido
Estos contenidos no sólo se valen de la inteligencia artificial para clonar la voz de Joe Rogan, sino que también utilizan otras herramientas de generación de imágenes (como DALL-E o Midjourney) para recrear hechos que nunca han sucedido. En el caso de The Joe Rogan AI Experience podemos ver una imagen generada con IA de Donald Trump. Se trata de imágenes estáticas con voces clonadas de fondo (y no de vídeos en movimiento).
También se está usando esta tecnología para crear programas ficticios en los que Joe Rogan habría difundido teorías de la conspiración junto a imágenes de sucesos paranormales que nunca han ocurrido. Un recurso que hemos observado en otras teorías de la conspiración sobre sucesos históricos.
