“Deepfakes” es el nombre que se ha dado a videos manipulados con técnicas de Inteligencia Artificial que permiten falsificar situaciones con aspecto hiperrealista. El uso de esta tecnología para crear imágenes engañosas está despertando preocupaciones en entidades y organismos de todo el mundo, ya que su rápida difusión permite construir ‘fake news’ con peligrosas consecuencias sociales y políticas.

El uso de Inteligencia Artificial para alterar contenido audiovisual no es nuevo. No sólo se ha empleado en la industria del cine para crear efectos especiales, sino que también se popularizó en Internet a partir de aplicaciones que permiten envejecer o rejuvenecer las fotos y hasta insertar el rostro de alguien en un videoclip o escena de película. Los principales usos que se ha dado a estos algoritmos están vinculados a lo humorístico o la pornografía, rubro que hasta el 2019 representaba el 96% de estos videos, según la empresa de ciberseguridad Deeptrace.

Sin embargo, cada vez con más frecuencia se encuentran deepfakes asociados a la política o con intenciones de generar agitación social y manipular la opinión pública. Hubo casos de estafas, difamación de figuras reconocidas y fomento de conflictos políticos. La última novedad al respecto es la posibilidad de alterar mapas satelitales insertando o quitando edificios o incluso modificando el trazado urbano de un sector.

El contexto de pandemia aumentó la importancia de las imágenes virtuales a niveles insospechados. Trabajo, clases, reuniones con amigos y hasta sexo, todo se desarrolla de forma virtual a través de redes sociales y hosting. La “presencia” es un requisito cada vez más prescindible, y este nuevo ecosistema digital promueve la multiplicación de todo tipo de contenido engañoso.

Ya en el año 2018 Buzzfeed lanzó una campaña de concientización sobre el peligro de la información no verificada y los deepfakes a través de un vídeo manipulado en el que Barack Obama llama imbécil a Trump. Desde entonces hasta ahora, no han dejado de crecer: según Sensity, hasta julio de 2019 había menos de 15.000 videos falsos circulando por la web. Un año después, la cifra creció a casi 50.000.

Ante lo preocupante de la situación, empresas y organismos internacionales han tomado medidas. Tanto Facebook como Twitter están invirtiendo grandes montos de dinero en herramientas que detecten las imágenes falsas, e incluso Europol ha manifestado preocupación. En un informe advierten sobre la peligrosidad de los deepfakes como vector de ataque y la velocidad con que se van perfeccionando hasta volverse casi indetectables.

Especialistas en Inteligencia Artificial están utilizando esta tecnología de forma inversa, para que sean capaces de detectar los videos falsos. Casi todas se basan en algoritmos que analizan el brillo de los ojos o la frecuencia de los parpadeos, ambos difíciles de falsificar mediante computadoras. Otras características que delatan a estos clips son las sombras extrañas, poca nitidez en los detalles y desajuste en el tono de piel.

La labor periodística de verificación de datos y fuentes se ha vuelto más necesaria que nunca. Muchas redacciones están incorporando mecanismos avanzados de chequeo y capacitando a sus miembros para afinar su criterio a la hora de detectar contenido adulterado. Los periodistas que realizan fact-checking y comunican la verdad o falsedad de contenidos que circulan están siendo cada vez más reconocidos en su labor. Todo indica que los límites entre lo real y lo ‘fake’ se están difuminando. Será un requisito social educar y crear conciencia sobre los peligros de esta tecnología. La sanción a la manipulación y el derecho a la información veraz choca, en este caso, con la libertad de expresión que se proclama en el mundo de la web y las redes sociales. Mientras tanto, se acentúa la duda sobre si lo que vemos en Internet es real o no.