La Inteligencia Artificial será uno de los principales actores de un aumento sustancial de incidencias de phishing, ciberfraudes y deepfake. Este último ciberdelito tuvo un crecimiento de 700% en cuanto su incidencia en México durante 2023, según un informe anual.
En Unotv.com te decimos de qué se trata esta práctica delictiva con IA y cómo puede perjudicar a los usuarios mexicanos a través de la suplantación de identidad.
¿Qué es el deepfake?
Un deepfake es un video, imagen o audio generado que imita la apariencia y el sonido de una persona. “Son tan convincentes a la hora de imitar lo real que pueden engañar tanto a las personas como a los algoritmos”, dice SEON, plataforma que ayuda a combatir fraudes en línea.
También llamados como “medios sintéticos“, son generados por la IA en directo, y sus formas más comunes de aplicación son en videos o como filtros de realidad aumentada.
Los deepfakes se generan mediante el machine learning, es decir, utilizando el aprendizaje profundo y las redes adversariales generales (GAN).
Esto significa que dos redes neuronales compiten entre sí, donde el objetivo de una es generar una imagen que la otra no sea capaz de distinguir a partir de sus datos de entrenamiento, y el objetivo de la segunda es evitar ser engañada de esta manera. Como explica un artículo de 2014:
- Los GAN son una tecnología de visualización por computadora y generan imágenes que se parecen a las humanas. Además, existen servicios comerciales de GAN en caso de que se carezca de la potencia informática necesaria para ejecutar estos modelos en casa, dice SEON.
A medida que la tecnología avanza, resulta más fácil crear deepfakes a partir de imágenes individuales o grabaciones de sonido breves.
[TE RECOMENDAMOS: Las principales ciberamenazas para 2024: ¡cuídate de la IA, troyanos bancarios y más!]
¿Cuál es el peligro de esta práctica?
Debido a que tergiversan de forma convincente la realidad, SEON asegura que los deepfakes entrañan varios peligros, tales como:
- Fraude en línea
- Desinformación
- Engaños
- “Porno de venganza”.
La capacidad de hacerse pasar por una persona en un video en directo o por teléfono va a suponer un reto para los sistemas de verificación en línea, que se basan en el reconocimiento de la cara o de la voz.
Según Deepfake Report, el 96% de los deepfakes en formato de video que los investigadores de la empresa de Ámsterdam Deeptrace pudieron identificar en línea eran videos pornográficos.
Esto puede conducir a la extorsión y el chantaje, con el creador del deepfake amenazando con publicar un video privado falso de alguien, que parece tan creíble que la víctima no tiene más remedio que pagar.
También tiene el potencial para causar daños políticos y sociales a través de la desinformación y los escándalos falsos, ya que la imagen de un personaje público puede ser manipulada para mostrarlo haciendo o diciendo cosas que nunca hizo.
¡Crece la incidencia de deepfake en México!
En México ha habido un crecimiento de 700% de incidencia de deepfake, según el informe Identity Fraud Report 2023 de Sumsub. También es el cuarto lugar en número de ataques recibidos de este tipo en Latinoamérica, con un 6% del total.
“El uso de la Inteligencia Artificial no se limita a textos. También está siendo usada para la creación de deepfakes cada vez más apegados a la realidad, que han impactado de manera sustancial en las cifras de fraude impulsado por IA, con un aumento sustancial en el fraude de identidad de 0.48% a 1.27%, de 2021 a 2023, respectivamente”
Felipe Méndez, Arquitecto líder de soluciones de ciberseguridad de IQSEC.
Por otro lado, IQSEC, empresa de ciberseguridad, reconoce que la Nube, el Internet de las Cosas (IoT) y las Cadenas de Suministro son los espacios que protagonizarán el rubro de ciberataques en 2024, protagonizados por la IA.
Te recomendamos:
Erupción en Islandia: ¿por qué es una zona altamente sísmica y volcánica?
