Estafando por la cara

Con el anuncio de Sora de OpenAI muchos estamos ilusionamos con las posibilidades que va a ofrecer para la creación de contenido, y observamos con fascinación los avances que mes a mes se realizan en distintos usos de la Inteligencia Artificial Generativa.

Pero los “malos”, que recordemos que viven sin regulaciones ni barreras éticas, exploran nuevas formas en las que utilizar la tecnología a su favor.

Así es como nos enteramos hace dos semanas estafaron 24 millones de Euros a una multinacional británica empleando DeepFake a través de una videoconferencia.

¿Qué es un DeepFake?

Utilizaremos parte de la definición que aparece en Wikipedia:

[…] Deepfake o ultrafalso es un acrónimo del inglés formado por las palabras fake, falsificación, y deep learning, aprendizaje profundo. Es una técnica de inteligencia artificial que permite editar vídeos falsos de personas que aparentemente son reales […]

Esta técnica ya vimos como ha sido utilizada por Hollywood para rejuvenecer actor o volver a la vida a otros fallecidos

Pero en manos de los delincuentes estos DeepFakes de vídeos, y recordemos que también de audio, empiezan a ser utilizados para distintas prácticas criminales.

Recientemente la propia CNMV (Comisión Nacional del Mercado de Valores) se vio forzada a publicar un comunicado avisando del uso de deepfakes con personajes públicos promocionando un chiringuito financiero, los mismos que utilizaron la imagen de nuestro querido Antonio Resines para estos fines de engaño y estafa.

Sin hacerles publicidad, os comparto uno de los vídeos que realizaron para esta estafa en dónde utilizan la imagen de Marta Ortega y del Gobernador del Banco de España entre otros.

▶ Vídeo: Ejemplo de Deepfake - Material para clase

Si bien a mi gusto es muy “amateur” y claramente mejorable, ha llevado al engaño y estafa de algunas personas en este país.

¿Sextorsión y deepfake?

Otro de los usos deplorables que ha propiciado el uso no ético de estas tecnologías ha sido la creación de imágenes de desnudo y sexualmente explícitas basándose en fotografías públicas.

Una de las últimas víctimas fue la cantante Taylor Swift, que recientemente un usuario inundó la red anteriormente llamada Twitter con fotos de ella combinadas con escenas de películas pornográficas.

No ha sido la primero famosa que ha sufrido este tipo de acoso, y tampoco es algo nuevo ya que este tipo de montajes existen desde el inicio de internet y la existencia del Photoshop.

Sin embargo, cada vez el resultado es mas real y ya han existido casos de el uso de estos montajes en personas que no gozan de ningún tipo de fama.

A finales del año pasado saltó a prensa el caso de esta clase de deepfake porno que afectaba a un grupo de menores en Almendralejo.

Vaticino que veremos lamentablemente un aumento del mal uso de esta tecnología en casos de sextorsión.

Si estás siendo víctima de este tipo de delitos, no lo dudes y DENUNCIA, puedes utilizar los canales que ofrecen Polícia Nacional, Guardia Civil o a través de la AEPD

¿Es que nadie piensa en la propaganda?

Evidentemente no ibamos a librarnos del uso de esta tecnología para fines geopolíticos y afines, no por nada la Desinformación y la Polarización de la sociedad aparece como uno de los mayores riesgos para la humanidad a corto y largo en el informe de Riesgos Globales 2024 del World Economic Forum.

Si se puede con pocos medios estafar a gente y que entreguen su dinero, como no va a ser posible influir en la opinión pública sobre todo cerca de unas elecciones.

Casos recientes como la llamada del presidente Joe Biden a los votantes demócratas de New Hampshire instandoles a no asistir a las urnas calientan el debate y disparan las alertas.

Ya en 2021 algunos políticos europeos fueron engañados usando Deepfake y creyeron estar hablando con un opositor de Putin, y desde le inicio del conflicto armado Rusia ha utilizado la desinformación y la potencia del DeepFake, como aquel vídeo en el que Zelenski se rendía.

Este tema personalmente me apasiona, y creo que daría para todo una newsletter dedicada a ello, o incluso un vídeo en mi canal de Youtube con algún experto en estos temas. ¿Me recomendáis alguien que os gustaría que entrevista sobre este tema en los comentario de esta publicación?.

¿Y qué podemos hacer?

Afortunadamente en el otro lado de la tecnología también contamos con gente que frente a una amenaza investiga y lucha contra ella.

Tenemos en España, por ejemplo, el Proyecto IVERES que parte de la colaboración de Radiotelevisión Española con la Universitat Autònoma de Barcelona y otros instituciones para la monitorización y detección de Deepfakes en las redes sociales.

Así mismo están naciendo muchas empresas dedicadas a detectar este tipo de engaños, y tenemos a disposición proyectos opensource para empezar a trabajar en nuestras propias herramientas.

Sin embargo, el sentido común y el pensamiento crítico seguirá siendo, como en los casos de phishing, las principales herramientas para luchar contra estos engaños.

La Divulgación y la Concienciación de los que estamos del lado de la tecnología seguirá siendo esencial para combatir todas las amenazas que afecten a la sociedad y las organizaciones.

Como parte de este concienciación, os voy a compartir un vídeo que empleo bastante ultimamente en mis charlas en distintos foros en los que participo.

▶ Vídeo: A Message from Ella | Without Consent

---

Publicado originalmente en LinkedIn el 23/02/2024.