La creciente amenaza de los deepfakes y las imágenes de IA, y cómo detectarlos

Al comienzo de la guerra de Gaza, apareció la imagen de un padre palestino sacando a sus hijos de entre los escombros. Aunque la imagen se compartió decenas de miles de veces en las redes sociales y quebró el corazón de la gente, había un problema: era completamente falsa.

¿Cómo se descubrió la verdad? El brazo del padre estaba deformado, uno de los dedos del pie del niño no estaba claramente definido y otro niño lleva una camiseta que se confunde con la manga del padre.

Para los expertos, esto era inconfundible. Esta foto fue generada por Inteligencia Artificial. Pero la mayoría de las personas no tienen la experiencia necesaria para darse cuenta de las sutilezas. Esta foto provocó mucho daño en las redes sociales, porque muchas personas que lo compartieron nunca se dieron cuenta de que era falsa o no les importó corregir sus posts después de que la verdad salió a la luz, ya que encajaba perfectamente con sus narrativas antiisraelíes.

¿Esta foto es real o fue creada por IA? (La foto NO es real).

Otro suceso preocupante ocurrió en el mes de febrero, cuando se filtró un audio en el que el alcalde de Londres, Sadiq Khan, menospreciaba el fin de semana del recuerdo e instaba a la gente a participar en marchas pro-palestinas. Cuando se supo la verdad, resultó ser un deepfake creado por IA. El alcalde nunca dijo eso, y él declaró a los periodistas que si ese audio se hubiera vuelto viral y la gente lo hubiese creído, eso podría haber causado graves problemas.

Vivimos en una época en la cual los rumores se propagan rápidamente. A medida que la IA se vuelve más sofisticada, también tenemos que estar atentos a la hora de decidir lo que compartimos con amigos y familiares y lo que publicamos en Internet, especialmente cuando Israel está en guerra.

Para combatir el odio a los judíos durante la Guerra de Gaza, necesitamos ser cautos con lo que publicamos. Todo comienza por aprender más sobre los deepfakes y la IA.

¿Qué son los deepfakes y las imágenes de IA?

Los videos deepfakes y las imágenes de IA son creados por avanzados programas que recolectan grabaciones de audio y video de un político, celebridad u otra figura pública. De estos archivos aprenden cómo replicar versiones falsas de esas personas haciendo o diciendo cosas que en verdad nunca hicieron.

Un deepfake puede fabricar un video de un presidente diciendo a la gente que vote de cierta manera o mostrar una imagen de un crimen de guerra que nunca ocurrió.

Los deepfake hna sido usados para propósitos funestos. Por ejemplo, para mostrar a famosos vendiendo productos que nunca respaldaron o para fabricar la voz del presidente Biden como un robocall diciendo a los votantes de las primarias de New Hampshire que no fueran a votar.

Piensa en el daño que pueden causar las imágenes falsas. Los países pueden entrar en guerra, los particulares pueden boicotear empresas y los rumores podrían provocar una corrida bancaria.

¿Cómo puedes reconocer imágenes de deepfake e IA?

En este momento, la Inteligencia Artificial está en pañales. Un experto puede identificar sombras extrañas, lenguaje corporal poco natural, movimiento antinatural del cabello, el uso de ciertos fondos y la reducción de la resolución y el rango de frecuencia de la imagen para enmascarar imperfecciones de la imagen. Los accesorios como collares, pulseras, relojes y anillos suelen aparecer deformados o borrosos.

Si notas que el sonido no coincide con la forma en que la persona mueve la boca, es posible que estés viendo un deepfake. Y como la tecnología accesible todavía no es suficientemente avanzada, los deepfakes sólo muestran la cabeza y los hombros de una persona. Por supuesto, todo esto puede cambiar rápidamente a medida que la tecnología siga mejorando.

Herramientas como Deepware y Is it AI? te permiten determinar si tus imágenes son reales o falsas. Además, puedes hacer una búsqueda inversa de imagen en Reverse Image Search para ver si una imagen fue usada en un contexto diferente que el actual.

Por ejemplo, durante la guerra de Israel-Gaza circuló una imagen de niños que supuestamente habían sido asesinados por las fuerzas israelíes. Resultó ser que los niños fueron asesinados por árabes durante la guerra en Siria en el 2013. Una simple búsqueda en Reverse Image Search podría haber evitado que esa mentira se difundiera.

Tomar conciencia de las noticias falsas

La IA sigue volviéndose cada vez más inteligente, y debemos mantenernos un paso más adelante. Afortunadamente, muchas compañías están trabajando para desarrollar herramientas de detección, y hay periodistas que tienen la meta de combatir esta nueva forma de difundir información falsa.

Durante esta guerra por la verdad, especialmente durante la guerra de Israel-Gaza, es critico tener conciencia de estas amenazas. Mantente al tanto con las noticias respecto a IA, y siempre detente un instante antes de publicar algo.

David Notowitrz es presidente y fundador del Centro Nacional de Audio y Video Forense (NCAVF), que presta servicios forenses de audio, video y teléfono a abogados litigantes.