En un mundo cada vez más digital, la tecnología nos sorprende con avances notables, pero también nos confronta con nuevos desafíos. Uno de esos fenómenos que ha emergido con fuerza es el Deepfake. ¿Pero qué es exactamente y cuáles son sus riesgos?
En esta nota de La Gota Derramada abordaremos la definición de este término que ha ganado popularidad en los últimos años, cuáles son los riesgos que conlleva el contenido deepfake y cuáles son las acciones para evitar caer en estafas.
Fenómeno Deepfake
Los Deepfake son productos multimedia falsos creados con Inteligencia Artificial (IA), los cuales consisten en sustituir el rostro de una persona sobre el cuerpo de otra con el propósito de generar la ilusión de autenticidad.
La palabra se compone de «Deep» proviniente de «deep learning», refieriéndose al aprendizaje profundo o aprendizaje automático de la Inteligencia Artifical; y «fake» que significa falso[2].
Existen dos tipos de Deepfakes[1]:
- Deepfaces: Consiste en crear imágenes convicentes desde el aprendizaje automático de la Inteligencia Artificial.
- Deepvoices: Consiste en suplantar la voz de una persona en un audio, en otras palabras, falsificar su voz real.
Si bien, los productos con Deepfake existen desde 1990, fue hasta 2017 que empezaron a popularizarse gracias a la revolución de la IA. Sin embargo, lo que empezó con un fin de entretenimiento, inocente y divertido, poco a poco se fue transformando en una herramienta para estafar o extorsionar.
¿Es peligroso el contenido Deepfake?
Si bien la tecnología detrás de los deepfakes despierta la admiración por su ingenio, también plantea desafíos cruciales y riesgos inminentes que exigen una atención seria pues, con el transcurso de los años, la Inteligencia Artifical ha entrenado y afinado sus resultados, de manera que son cada vez más convincentes[1].
La Oficina de Segurida de Internauta (OSI) se ha pronunciado al respecto, planteando una serie de amenazas que trae consigo la creación y divulgación de productos deepfakes:
- Generar desinformación: La creación de productos multimedia con deepfake puede propagar noticias falsas, generar confusión en la opinión pública o influir en las votaciones y toma de decisiones.
- Desacreditar a alguien: La proliferación de deepfakes puede erosionar la confianza en los medios y la información en general, ya que se vuelve más difícil discernir entre lo auténtico y lo manipulado.
- Método de venganza: La creación de material falso para chantajes o extorsión es una amenaza real y creciente.
- Manipulación de mercados financieros
- Desestabilizar ls relaciones internacionales
En marzo de 2022, el presidente ucraniano Volodimir Zelenski anunció fue víctima de un video deepfake, en el que parecía ordenar a los soldados ucranianos que se rindieran a las fuerzas rusas.
Recuperado de Forbes México[3]
Por su parte, Google, Facebook y Twitter ya están tomando medidas para detectar e impedir la proliferación de este contenido, así como para eliminar los deepfakes en la red.
¿Cómo detectar contenido Deepfake?
En un panorama saturado de información digital, distinguir entre la realidad y la ficción se vuelve esencial, por ello es importante conocer los detalles técnicos que delatan la falsificación de contenido con deepfakes:
La concientización sobre los deepfakes es fundamental. La educación pública puede ayudar a las personas a ser más críticas al consumir contenido en línea y a comprender los riesgos asociados. Por ello, la comprensión y la acción colectiva son esenciales para navegar por este nuevo y complejo paisaje digital.
Fuentes
[2] https://www.hp.com/mx-es/shop/tech-takes/que-es-deepfake-y-consecuencias-a-la-seguridad
La gota derramada 