ENTREVISTA Javier Lozano: «Hoy en día a través del móvil y cualquier aplicación al uso se puede crear un deepfake con mayor o menor realismo»

ENTREVISTA Javier Lozano: «Hoy en día a través del móvil y cualquier aplicación al uso se puede crear un deepfake con mayor o menor realismo»

Carlos Hidalgo – Redacción || Pablo Martínez – Grabación || 20/04/2020

Entrevista a Javier Lozano

Javier Lozano Delmar es profesor en la Universidad Loyola Andalucía de Tecnología de la Comunicación y Narrativa y Estética Audiovisual, ambas impartidas en el Grado en Comunicación. Muy relacionada con las asignaturas anteriormente mencionadas está la tecnología ‘deepfake’ sobre la que le preguntamos en esta entrevista .

«Los deepfake son construcciones, a partir de tecnologías digitales, para suplantar la identidad de alguien de forma audiovisual«. Así define, brevemente, Javier Lozano la tecnología deepfake. Esta suplantación incluye tanto imágenes en vídeo como grabaciones sonoras. En pocas palabras, es dar un paso más en este ámbito: «Es una evolución de la suplantación de identidad aplicada a narrativas o contenidos audiovisuales«.

Pese a que muchos pueden pensar que el origen de esta tecnología se encuentra en algún innovador estudio audiovisual, lo cierto es que lo encontramos en un popular foro de internet: «El origen del término parte de un usuario de Reddit que se llamaba ‘Deepfake’, que comenzó a experimentar con la tecnología digital y se dedicaba a suplantar imágenes de personas». 

El uso de esta tecnología comenzó a ganar notoriedad en los miles de portales de internet que ofrecen contenido pornográfico. Muchas celebridades como Scarlett Johansson, Maisie Williams o Tailor Swift se han visto afectadas, viendo como sus rostros se colocaban en vídeos de índole sexual. En este sentido, Lozano explica que «a día de hoy, el mayor uso de los deepfake es en el terreno pornográfico«. No obstante, también menciona que los deepfake están empezando a utilizarse en el ámbito de la política. De hecho, el pasado mes de febrero saltó la noticia de cómo un político de la India utilizó la tecnología deepfake para ganar votantes. Ante esta situación, Javier menciona que «muchos países están poniendo reglas y límites al uso del deepfake, como en el caso de China, donde el uso de los deepfake ha ido aumentando poco a poco».

Han pasado los años y esta tecnología, además de volverse más sofisticada, se ha vuelto más accesible: «Hoy en día se pueden construir casi de forma casera. De igual forma que antes para hacer un montaje fotográfico se recurría a herramientas que, poco a poco, fueron evolucionando a Photoshop, hoy en día a través del móvil y de cualquier aplicación al uso se puede construir un deepfake con mayor o menor realismo«. Esta accesibilidad, no obstante, es algo que suele ocurrir con prácticamente todas las tecnologías: «La tecnología empieza a ser minoritaria en sus usos y poco a poco se va democratizando el acceso y el uso y de esta forma se va normalizando». 

Pese a que los deepfake suenen a ciencia ficción, el profesor pone el ejemplo de Instagram y sus filtros: «En Instagram todas las máscaras que tenemos con realidad aumentada no dejan de ser, hasta cierto punto, cierto deepfake o cierta incrustación digital en una imagen en movimiento. En este sentido, tenemos que ser conscientes de que los deepfake no son ciencia ficción, sino que no deja de ser un uso concreto que se hace de la tecnología digital con un fin concreto».

«Los deepfake seguirán escalando y aumentando en su complejidad y en su realismo porque la tecnología digital va creciendo al mismo tiempo«

Los deepfake se convierten, pues, en otra piedra más en el camino de los periodistas y su objetivo de diferenciar la verdad de la desinformación. Ante este panorama, Javier Lozano afirma que “es cierto que en el panorama actual prima más la rapidez que el contenido. Esto hace que el periodismo no solo sea redactar la noticia, sino hacerse eco de otras noticias que empiezan a ser virales. Esto ocurre con los deepfake, ya que muy rápidamente pueden hacer viral algo que no es real”.

Por último, este experto señala como interesantes y positivas las herramientas de verificación de deepfake que algunas redes sociales ya usan: “las redes sociales sí que tienen un aparato tecnológico capaz de detectar si un vídeo se ha “adulterado”, de forma que pueda ser un deepfake”.

Carlos Hidalgo -Redacción || Pablo Martínez Grabación

¿Te cuentan todo sobre los videojuegos?

Ignacio Luque

Ronda de preguntas relacionadas con la Covid-19

Ignacio Luque

ENTREVISTA|Las Fake News en la esfera política

Marta Pérez Escolar, profesora de Opinión Pública de la Universidad Loyola Andalucía. En esta entrevista conoceremos cómo las fake news siempre han estado presentes y además, Marta puntualiza de que existen dos tipos de noticas falsas: las desinformaciones y...

ME… ME HAS ENGAÑADO

Los memes, poco a poco, han pasado a ser parte de nuestro día a día.  A pesar de su apariencia inocente, hay que mantenerse también atentos a ellos, puesto que pueden ser fuentes desinformativas. Gracia Sumariva Reyes  ¡Que levante la mano quien no haya visto un...

ENTREVISTA | César Peña: “Lo interesante es dominar el lenguaje de la misma manera que lo domina el creador de bulos y hacer la verdad atractiva”

María Hidalgo y Manuel Carmona César Peña es uno de los periodistas del LAB de RTVE, un laboratorio de innovación audiovisual en el que los enfoques creativos y las nuevas narrativas están a la orden del día. Dentro de él, César trabaja en la coordinación de...

ENTREVISTA | Miguel Valenzuela: “Más que educarnos en qué son las ‘fake news’, sería conveniente reforzar los comportamientos que nos hacen ser críticos con ellas”

  Manuel Carmona y María Hidalgo  El sesgo de confirmación es uno de los sesgos cognitivos que entra en el debate sobre las fake news, ya que las personas somos más propensas a confiar en aquellas noticias que se asemejan o validan nuestras ideas y nuestra...

Google Scholar: un remedio contra la desinformación al alcance de todos

Google Scholar – o Google Académico – es una excelente herramienta para contrastar los bulos y aprender sobre el fenómeno de la desinformación, sus causas y sus consecuencias. En este artículo revisamos a fondo qué es y damos algunos tips para utilizarlo. Fuente:...

Comunicación Constructiva: ¿Cómo mantener la esperanza entre tanta sobreinformación?

Teresa Luque El pasado 30 de abril, Mar Cabra y Alfredo Casares protagonizaron un encuentro online en el que trataron la importancia de gestionar la sobreinformación, los bulos y las noticias negativas. Esta iniciativa es desarrollada por Open Value Foundation en...

Entrevista a Don José J. Jiménez| La Iglesia católica y las fake news

Don José Jimenez Güeto es nuestro entrevistado en esta entrada. Sacerdote desde 1993 está comprometido con la comunidad de forma activa.  Desde 2004 a 2012 fue el director de la programacion religiosa de CopeCórdoba, acutalmente permanece de forma activa como...

Entrevista a José Antonio Muñiz | Las fake news y la propaganda

José Antonio Muñiz, profesor del área de comunicación de la Universidad Loyola Andalucía, nos cuenta el impacto de las fake news en la propaganda a lo largo de la historia hasta la actualidad.

Ana Rocío nos cuenta que son los Deep Fakes

Ana Rocío nos cuenta que son los Deep Fakes

En esta entrada, nuestra youtuber, Ana Rocío, viene a contarnos qué son los deep-fake. Este tipo de desinformación es un fenómeno tecnológico que ha pasado del mundo de la ficción al real. Se trata de conseguir manipular un contenido en formato vídeo a través de una técnica que desarrollaron los servicios de inteligencia artificial. Esta técnica permite crear, de manera muy realista, videos falsos de personas, usando algoritmos y videos o imágenes ya existentes.

Es decir, manipular por ejemplo un vídeo de algún político de manera que parezca que está diciendo algo que en realidad nunca ha dicho, pero el resultado es tan real que provoca escalofríos. Pero no solo eso, sino que se han llegado a extender mucho más allá de política llegando a usarse incluso en el cine: han traído a la vida actores que fallecieron; han hecho parecer jóvenes a personalidades famosas que ya contaban con una edad; han hecho que el propio Barack Obama apareciera en programas de televisión en países en los que jamás ha estado. 

Se podría decir que son extremadamente peligrosos porque el contenido audiovisual que generamos es fundamental para la opinión pública, mayormente controlada por los medios de comunicación. Si estos propios medios son los que difunden este tipo de contenido y no somos capaces de diferenciarlo, la manipulación será incontrolable. Pero los deep fakes han llegado a un punto de perfección que pueden ser casi imperceptibles. 

¿Cómo podemos detectarlos? Ana Rocío Sánchez nos lo cuenta en este video de La Faketoria:

Por Ana Rocío Sanchez, Pablo Martinez y Rafael Velasco

Mockumentaries… ¿Qué son?

Mockumentaries… ¿Qué son?

Todos hemos visto alguna vez un documental que nos dejaba impactados, con la boca abierta, y, alguno que otro nos ha dejado pensando que lo que acabamos de ver no es del todo cierto. Muchas veces no es así, pero en algunas ocasiones, los documentales nos muestran una narrativa tan maravillosa y nos enganchan, pero al final, es mentira. Estos son los conocidos como falsos documentales. 

Los falsos documentales se los conocen también como ‘mockumentaries’, del inglés «mock», broma, y «documental». Y pueden dar tanto o más trabajo para producirlos, realizarlos y montarlos que si fueran documentales reales. Normalmente, al final de la obra, se revela que es un falso documental, y que lo narrado no es real. Algunos de estos ‘mockumentaries’ son Operación Palace (falso documental dirigido por Jordi Évole sobre el golpe de Estado en España de 1981), Camaleó (falsa cobertura informativa que La 2 hizo en torno a la muerte del líder ruso Mijaíl Gorbachov), Opération Lune (producción francesa que especula con la posibilidad de que la llegada del hombre a la Luna no fuera más que un montaje orquestado por Richard Nixon), o Por qué Mozart no usaba el Si bemol (vídeo realizado por el influencer Jaime Altozano que busca hacer creer al espectador que Mozart no usaba la nota Si bemol, entre otros muchos datos). 

Muchos investigadores y documentalistas coincidenpiensan en que el primer fenómeno de este tipo fue la emisión radiofónica de «La guerra de los mundos». En esta emisión, narrada por Orson Welles, se narró una adaptación de la novela de George Orwell, que cuenta los hechos de una invasión alienígena en la Tierra. Los oyentes de este programa creyeron que el ataque extraterrestre era real y entraron en pánico, provocando el caos en algunas ciudades de EE. UU.

Una de las causas de por qué el número de falsos documentales ha crecido, es debido a la capacidad que ofrecen de jugar con la narrativa, la verdad y la percepció. El fin último de estos mockumentaries es realizar un ejercicio de análisis y retar al espectador, haciendo que se pregunte por qué cree que es verdad lo que está viendo si resulta increíble. 

Los falsos documentales requieren una producción más elaborada y cuidada, para que al espectador le resulte más creíble. Estos documentales tienen muchos detalles y buscan un realismo especial, tanto, que puede ocasionar efectos inesperados. Por ejemplo, Operación Palace provocó que una señora se pusiese de parto mientras lo televisaban, o Jaime Altozano, con su mockumentarie sobre Mozart y el Si bemol, consiguió engañar a casi todos los espectadores del vídeo, con un vídeo con un nivel de producción muy elevado.

Ahora, conociendo la existencia de los mockumentaries, estate atento cuando veas un documental. Si quieres más información sobre el tema, pincha aquí para leer más entradas del blog. 

Pablo Martínez

Deepfakes: una amenaza para las mujeres

Deepfakes: una amenaza para las mujeres

Mamen Montoro

En tiempos de posverdad, son numerosas las formas en las que podemos encontrar representada la desinformación. Por ejemplo, a través de las “deepfakes”, que no son más que transformar un contenido audiovisual real en falso, consiguiendo así que el receptor no sepa diferenciar si lo que está viendo es verdad o mentira. Para definirlo de una manera más sencilla, un deepfake es un vídeo en el que se coloca o superpone digitalmente un rostro conocido en el cuerpo de otra persona que está diciendo o haciendo algo concreto, con el fin de hacer creer que es este personaje famoso el que ejecuta la acción.

Según la BBC, el concepto de deepfake procede del nombre de un internauta que compartía vídeos en los que suplantaba la identidad de celebridades en los cuerpos de actrices porno. Este primer contenido fake se compartió a través de la plataforma Reddit, creada en 2005 y destinada a la publicación de vídeos, imágenes o textos. A partir de este momento, debido a la gran acogida de estos vídeos, que se hacían virales, surgieron numerosas aplicaciones y herramientas gratuitas, como FakeApp, para que cualquier persona pudiese crearlos.

Las mujeres y su imagen

Emma Watson, Gal Gadot, Taylor Swift y Scarlett Johansson son algunas de las famosas que han visto atentada su imagen por las deepfakes. Y es que las mujeres son las grandes afectadas por esta nueva herramienta fake de crear contenido audiovisual, sobre todo utilizándolas para el mundo del porno, que fue donde empezó todo. Casi 9 millones de resultados ofrece Google si escribes “deepfake porn” en tu navegador, un dato más que gráfico de la cosificación que sufren las mujeres día a día, además del daño que esto supone para aquellas personas que ven su rostro representado en un cuerpo que no les corresponde.

Según el estudio deepfakes y la mujer en un imaginario falsificado y perverso” de Víctor Cerdán y Graciela Padilla, las deepfakes aún no están específicamente recogidas en la legislación española, tampoco en la europea. A pesar de esto, los autores de dichos vídeos sí que podrían ser castigados por un delito “contra el derecho a la propia imagen, injuria o un delito de odio”. Y es que, los derechos anteriormente mencionados, aunque no estén explícitamente registrados, sí que se podrían ver reflejados en el artículo 18 de la Constitución Española y en la Ley Orgánica 1/1982, del 5 de mayo, “sobre protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, dedicado a la dignidad humana”.

Las redes sociales y su política

Frente al desafío que las deepfakes están suponiendo para internet y, en concreto, para las redes sociales, se está dedicando parte de la política de seguridad de estas para detectarlas y, posteriormente, combatirlas. Según la página web Xataka, Facebook es una de las redes que ya se ha puesto manos a la obra con el objetivo de eliminar todo el contenido falsificado que cumpla dos requisitos: que haya “sido editado o sintetizado” y que sea “producto de una inteligencia artificial o aprendizaje automático”. Sin embargo, los vídeos “parodia, satíricos o los publicados por políticos” no se eliminarán, ya que según Andrea Vallore, portavoz de Facebook, «si el contenido reviste algún interés periodístico, aunque viole la norma, evaluaremos caso por caso si debe permitirse su permanencia en la plataforma», explica Xataka.

Por el contrario, redes como Instagram o Twitter aún no han instalado ninguna norma en su política dedicada exclusivamente a deepfakes. De hecho, Adam Moserri, director ejecutivo de Instagram, en una entrevista para la CBS explicó que “estamos intentando evaluar si quisiéramos hacer eso y, de ser así, cómo definiríamos los deepfakes”.