Inteligencia Artificial Generativa¿Llamadas falsas con IA? Así puedes reconocerlas para evitar caer en estafas

La Inteligencia Artificial Generativa (GenAI) ha democratizado la creación de contenido falso, incluyendo audios y videos conocidos como "deepfakes". Se trata de una de las tecnologías que facilita la manipulación de voces, abriendo la puerta a estafas sofisticadas. ¿Cómo funciona y de qué manera podemos reconocerla? Te enseñamos.

Suplantación de identidad por voz

Los ciberdelincuentes utilizan deepfakes de audio para suplantar identidades, como la de un directivo de alto nivel o algún conocido de tuyo, con el fin de cometer fraudes financieros, secuestrar cuentas o eludir sistemas de seguridad.

El proceso es alarmantemente simple:

• Selección de la víctima: Los atacantes eligen a una persona reconocible.
• Obtención de una muestra de voz: Recopilan unos segundos de audio de la víctima de fuentes públicas como redes sociales, entrevistas o grabaciones de conferencias.
• Identificación del objetivo: Investigan a las personas desde sus plataformas de acceso abierto.
• Preparación del contacto: Pueden enviar un correo electrónico previo para crear una sensación de urgencia, solicitando transferencias de dinero, restablecimiento de contraseñas o autenticación multifactor.
• La llamada fraudulenta: Utilizan el audio deepfake generado por GenAI para realizar la llamada. Dependiendo de la herramienta, pueden emplear un discurso preestablecido o una conversión de voz en tiempo real.

Para aumentar la efectividad, los atacantes suelen recurrir a tácticas de ingeniería social, ejerciendo presión para obtener una respuesta inmediata. La combinación de una voz familiar y la urgencia puede engañar a las víctimas.

Señales para identificar una llamada falsa

Afortunadamente, existen indicios que pueden alertarnos sobre una llamada deepfake. Según expertos de la compañía ESET, preste atención a las siguientes señales:

• Ritmo de voz inusual: El habla puede sonar antinatural.
• Tono emocional plano: La voz carece de la emoción esperada en la conversación.
• Problemas con la respiración: Pueden escucharse pausas o frases sin respiración, o un patrón respiratorio anómalo.
• Sonido robótico: En deepfakes menos sofisticados, la voz puede sonar extrañamente robótica.
• Ausencia o uniformidad de ruido de fondo: Un silencio total o un ruido de fondo demasiado constante y artificial.

'Este tipo de ataque es cada vez más barato, sencillo y convincente. Algunas herramientas son capaces incluso de insertar ruido de fondo, pausas y tartamudeos para que la voz suplantada resulte más creíble. Cada vez imitan mejor los ritmos, las inflexiones y los tics verbales propios de cada orador. Y cuando un ataque se lanza por teléfono, los fallos relacionados con la IA pueden ser más difíciles de detectar para quien atiende.', advierte Macio Micucci, Investigador de ESET.