Deepfakes, la nueva amenaza que roba la identidad digital en empresas

Los deepfakes son un tipo de fraude de identidad que utiliza el machine learning para generar un personaje falso o suplantar la identidad

La tecnología de la Inteligencia Artificial (IA) se está disparando, lo que está creando una infinidad de nuevos problemas en múltiples áreas.

La IA ha hecho prácticamente imposible para una persona normal distinguir entre lo falso y lo real. Ante ello, empresas de todo tipo corren ahora el riesgo de ser estafadas por fraudes sintéticos y deepfakes, lo que hace que se pregunten cómo evitar el robo de identidad digital.

Por otro lado, también estamos viendo cómo se utiliza la IA en siniestros ataques de ingeniería social dirigidos contra la vida privada de las personas. Por ejemplo, un hombre en China envió recientemente $622,000 dólares a un estafador tras una videollamada que creyó fue realizada por un amigo. Es probable que casos como estos continúen en el futuro.

Las estadísticas de Sumsub muestran que la prevalencia del fraude deepfake creció considerablemente desde 2022 hasta el primer trimestre de 2023:

• De 2022 al primer trimestre de 2023, la proporción de deepfakes entre todos los tipos de fraude aumentó 4,500% en Canadá, 1,200% en Estados Unidos, 407% en Alemania y un 392% en Reino Unido.
• En el primer trimestre de 2023, el mayor número de deepfakes procedía del Reino Unido y España, con 11.8% y 11.2% de fraudes a nivel mundial por deepfake, respectivamente, seguidos de Alemania (6.7%) y Países Bajos (4.7%). Estados Unidos ocupó el quinto lugar, representando 4.3% de los casos.
• En el primer trimestre de 2023, una elevada proporción del fraude consistió en deepfakes en Australia (5.3%), Argentina (5.1%) y China (4.9%).

Desde 2022 hasta el primer trimestre de 2023, la proporción de fraude consistente en deepfakes, aumentó de 0.1% a 4.6% en Canadá, de 0.2% a 2.6% en Estados Unidos, de 1.5% a 7.6% en Alemania y de 1.2% a 5.9% en Reino Unido.

¿Qué son los deepfakes?

Son un tipo de fraude de identidad que utiliza el machine learning para generar un personaje falso o suplantar la identidad de una persona real utilizando fotos y vídeos manipulados. A su vez, el fraude sintético es un término más general que hace referencia a los contenidos creados mediante IA que suelen utilizar los estafadores. Tanto los deepfakes como el fraude sintético se basan en las mismas tecnologías de IA.

¿Cuáles son los sectores más afectados?

Cualquier industria que trabaje con clientes de forma remota es vulnerable al fraude sintético y a los deepfakes. Por el momento, los sectores más afectados son las fintech, pagos, criptomonedas y juegos de apuestas. Esto se debe a que la gran mayoría de los clientes son captados en línea sin comunicación cara a cara.

Liveness y Deepfake: detección contra el fraude generado por IA

El ojo humano no será capaz de distinguir entre un adecuado deepfake y una persona real. Sin embargo, la solución viene de la misma tecnología que creó el problema: la Inteligencia Artificial.

¿Cómo prevenir el robo de identidad digital?

Sumsub ha desarrollado tecnología de IA para detectar deepfakes por años. La solución está incorporada a la tecnología liveness, que detecta fácilmente los intentos de robo de identidad digital y autentica a los usuarios reales en cuestión de segundos. Funciona al analizar ciertos artefactos de las imágenes proporcionadas utilizando las últimas tecnologías de IA, lo que garantiza que ningún estafador pase el control, asegurando la protección contra el robo de identidad.

Además de detectar deepfakes, liveness se utiliza ampliamente con fines de autenticación, confirmación de acciones del usuario y detección de cuentas duplicadas, con el fin de lograr una verificación de identidad en línea.

Reconocimos la tendencia emergente de deepfake hace mucho tiempo y empezamos a crear soluciones para luchar contra este tipo de fraude en rápida evolución.

“Como proveedor antifraude, Sumsub se esfuerza por mantenerse a la vanguardia, ofreciendo continuamente soluciones innovadoras de detección de fraude y protección contra el robo de identidad para combatir el avance de la tecnología maliciosa y prevenir el daño potencialmente alto a las plataformas digitales, las personas y las comunidades”, comentó Vyacheslav Zholudev, co-fundador y director de Tecnología de Sumsub.

“Nuestro nuevo detector avanzado de deepfake refuerza nuestro producto principal KYC y el compromiso de mejorar aún más las tecnologías basadas en IA integradas en nuestra solución antifraude”, añadió.

Además, Sumsub cuenta con un equipo dedicado de expertos en IA/ML que trabajan constantemente para mejorar la detección de deepfake, aprovechando su amplia experiencia en el análisis de datos visuales y diferenciando entre las imágenes de personas reales y los personajes falsos generados por IA.

En un futuro próximo, las tecnologías de IA seguirán desarrollándose rápidamente, y es probable que surjan fraudes sintéticos más sofisticados, que afectarán a muchos más sectores. Por lo tanto, las empresas tienen que ir por delante de los delincuentes, y buscar un proveedor antifraude que les sugiera cómo prevenir el robo de identidad digital y les ofrezca soluciones de detección de fraudes deepfake de primera calidad para mantener las plataformas digitales, personas y comunidades a salvo de las constantes amenazas