Deepfakes en la política mundial: cuando ya no podemos creer en lo que vemos

El escándalo por el video falso de Mauricio Macri que anunciaba la renuncia de Silvia Lospennato a su candidatura no solo refleja el impacto de la inteligencia artificial en la vida política de nuestro país, sino que se une a otros casos similares alrededor del mundo en donde la confianza y la credibilidad en los políticos, pilares fundamentales de la democracia, se vieron debilitados. Los deepfakes, que nacieron como una fuente de entretenimiento, pueden ser considerados hoy una amenaza política y social.

Los deepfakes son contenidos sintéticos generados por inteligencia artificial, que combinan técnicas de aprendizaje profundo (deep learning) y redes generativas antagónicas (GAN) para crear videos, imágenes o audios falsos con altísimo realismo que permiten que veamos a personas diciendo o haciendo cosas que jamás ocurrieron.

Aunque sus raíces técnicas se remontan a finales de los años 90, fue en 2017 cuando la palabra deepfake entró al vocabulario público a raíz de una serie de videos pornográficos falsos con rostros de celebridades. Desde entonces, su sofisticación y accesibilidad crecieron hasta el punto de que hoy cualquier persona con una computadora de mediano poder puede fabricar uno, trasponiendo en un video el rostro de una persona en el cuerpo de otra o, más recientemente, generando uno nuevo y haciéndolo moverse a voluntad.

En abril de 2018, el director de cine estadounidense Jordan Peele realizó un experimento con el portal de noticias BuzzFeed creando un video realista de Barack Obama diciendo que Donald Trump era un “complete and total dipshit”, algo así como “un completo y total idiota”. A pesar de las limitaciones técnicas de aquel momento, el contenido fue tan convincente que generó muchísimo revuelo y fue dado por cierto por un número alto de personas.

El clip aún está en YouTube y cuenta con diez millones de reproducciones. El objetivo del clip era concientizar para que los espectadores solo confíen en fuentes seguras a la hora de informarse, pero los especialistas afirman que no es posible garantizar que el recorte inicial no haya circulado de manera independiente.

Los deepfakes pueden tener un impacto profundo en la política al socavar la confianza pública, lo que podría contribuir a desatar crisis de gobernabilidad o intentos de golpes de Estado, como sucedió en la república de Gabón a comienzos de 2019. Unos meses antes su presidente, Ali Bongo Ondimba, había sido hospitalizado en una visita oficial a Arabia Saudita. Luego de varios días sin que apareciera en público, las especulaciones en la prensa y las redes sociales obligaron al gobierno a informar sobre su condición médica. En un comienzo se habló de una “fatiga severa” pero luego un comunicado oficial estableció que había sufrido una hemorragia. Finalmente, en diciembre de 2018 el vicepresidente dijo en una entrevista que el líder había sufrido un ACV. A partir de ese momento, la oposición buscó instalar que Bongo estaba muerto y, frente a eso, el 31 de diciembre se publicó un video en donde se lo veía saludando por el fin de año.

Sin embargo, la postura rígida de su cuerpo y la mala calidad de la cinta llevó a distintos dirigentes a sostener que se trataba de un doble o de un deepfake, versión que creció en redes sociales. Aunque luego dos análisis de “fact checkers” independientes concluyeron que el video probablemente era auténtico, el daño ya estaba hecho. Se trata de un aspecto clave de esta tecnología: no es necesario que un video sea falso para provocar desconfianza. La mera posibilidad de manipulación genera dudas que pueden minar la credibilidad de los gobiernos.

Unos días después, en enero de 2019, un grupo de soldados tomó por asalto la radio pública para transmitir un mensaje a la población: era necesario apoyar un golpe para que asuma una nueva fuerza política, porque o bien Bongo no estaba capacitado para hacerlo, o bien porque estaba muerto. El intento de golpe no fue exitoso, pero puso en crisis a las instituciones y si bien las sospechas de un deepfake no fueron las únicas condiciones que posibilitaron la crisis, sí parecen haberla precipitado.

En 2020, por su parte, la organización activista Extinction Rebellion publicó un video falso de quien era la Primera Ministra de Bélgica, Sophie Wilmès, en el que se la veía dando un discurso que conectaba la propagación del COVID-19 con la crisis ecológica y la “explotación y destrucción por parte de los humanos de nuestro medio ambiente natural”. Para eso utilizaron imágenes de un discurso real que Wilmès había dado previamente sobre la pandemia, pero modificaron el audio y los labios de la política para que diga palabras de un guión escrito por Extinction Rebellion.

Si bien el grupo activista admitió después el fraude, asegurando que buscaba mantener la presión sobre los líderes políticos para que abordaran la crisis climática y ambiental incluso en medio de la pandemia, el video fue compartido en toda Europa y dado como cierto por muchas personas.

Y aunque los deepfakes que involucran video parecen ser los más eficaces, los mensajes de audio adulterados también pueden tener un impacto real. A días de las elecciones parlamentarias de Eslovaquia en 2023, se viralizó un audio en el que el líder progresista Michal Šimečka parecía confesar que planeaba manipular votos y en el que decía que iba a subir el precio de la cerveza.

El mensaje, hecho con la clonación de su voz por IA, fue difícil de desmentir a tiempo debido a la veda electoral, tal como sucedió con el caso de Macri y Lospennato. Aunque falso, el daño ya estaba hecho: el candidato perdió por escaso margen y algunos analistas sugieren que ese audio pudo haber sido decisivo.

No hay dudas de que los deepfakes erosionan la confianza pública. Ya no basta ser como el apóstol Tomás, que aseguró que necesitaba “ver para creer” en la resurrección de su maestro. En política, donde la legitimidad se basa en la percepción ciudadana, el impacto de los deepfakes puede ser devastador. No solo permiten fabricar desinformación, sino que siembran escepticismo permanente: incluso pruebas reales pueden ser desestimadas con la frase “eso está manipulado”. Es lo que se conoce en filosofía de la tecnología como “Liar’s Dividend” —la ganancia del mentiroso—: si todo puede ser falso, entonces nada puede probarse.

Además, esta tecnología se ha vuelto cada vez más barata y fácil de usar. Ya no está restringida a gobiernos o grandes productoras; está al alcance de trolls, influencers o actores maliciosos. En ese sentido, su potencial desestabilizador es exponencial.

Por Tomás Balmaceda

• Inteligencia artificial
• FuturIA

---

---

Conforme a