Redactado por Jesús Javier Martínez Estaire, quien es -entre otras muchas cosas- (…) abogado & economista especializado en Derecho Laboral y Procesal Civil, experto en despidos y reclamaciones civiles, > 15 años asesorando a empresas y profesionales.
Entradilla:
La clonación sintética de voz y rostro ya no es una curiosidad tecnológica: es una herramienta criminal al alcance de cualquiera. Los deep fakes han mutado en “avatares” capaces de suplantarnos en videollamadas, aprobar operaciones y atravesar barreras biométricas. En banca —aperturas de cuentas, préstamos, transferencias— el riesgo es sistémico: afecta a la autenticación, al KYC/AML y, sobre todo, a la confianza del cliente.
La IA que «se hace pasar por ti»:
Modelos generativos multimodales permiten imitar timbre, prosodia y gestualidad en tiempo real. Esa capacidad traslada el robo de identidad del phishing textual a la suplantación sensorial: ya no es lo que lees, sino lo que “ves” y “oyes”. La Comisión Federal de Comercio de EE. UU. (FTC) advierte desde 2023 del auge de la clonación de voz y lanzó un reto público para mitigarlo; en 2024 reforzó la alerta con pautas de verificación ciudadana.
Los casos reales han dejado de ser anomalías. En 2024, un empleado de la ingeniería británica Arup fue engañado en una video reunión deep fake y transfirió unos 25 M $; el episodio marcó un antes y un después para la seguridad corporativa.
En España, INCIBE y la Guardia Civil han alertado de estafas telefónicas con voces clonadas de familiares o contactos para tomar cuentas y pedir dinero vía Bizum.
El frente bancario: cuando la biometría ya no basta:
La banca ha confiado en la biometría como “inherencia” dentro de la Autenticación Reforzada de Cliente (SCA) del marco PSD2: algo que eres, combinado con algo que sabes o posees. Pero si una IA puede “ser tu voz”, esa capa deja de ser determinante si opera en solitario. La propia EBA recuerda que SCA exige dos o más factores independientes; la inherencia aislada no es suficiente.
La industria ya observa el desplazamiento del fraude hacia canales de atención y onboarding remoto. Informes de 2024 y 2025 detectan aumentos significativos en fraude de contact center y uso de voces sintéticas, con proveedores como Pindrop reportando subidas del 60 % y un creciente “porcentaje de llamadas sintéticas”.
Qué cambia en el riesgo: tres vectores críticos.
- Onboarding y “re-enrolment”: altas y revalidaciones con vídeo-selfies y firma de voz son vulnerables a deepfakes si no incorporan liveness y pruebas activas. (La EBA y ENISA han publicado guías y buenas prácticas para onboarding remoto).
- Atención telefónica y videollamadas: comandos verbales y validaciones visuales pueden ser replicados; el “reconozco su voz” deja de ser prueba.
- Autorización de operaciones: suplantaciones ejecutivas (CEO fraud) y clientes VIP por avatar sintético elevan el impacto unitario y el contagio reputacional.
Regulación y cumplimiento: la pinza europea:
- AI Act (UE): en vigor desde el 1 de agosto de 2024, con aplicación escalonada. Las obligaciones de transparencia para deep fakes del artículo 50 entran a aplicarse el 2 de agosto de 2026 (con otras obligaciones ya activas en 2025–2025/26). Traducción: si una entidad usa o difunde sintéticos, debe etiquetarlos de forma visible.
- DORA (resiliencia operativa digital): aplicable al sector financiero desde 17 de enero de 2025; exige gobierno del riesgo TIC, pruebas de penetración avanzadas y gestión de terceros críticos (incluidos proveedores de IA).
- NIS2: eleva las obligaciones de ciberseguridad y notificación de incidentes; transposición nacional exigida desde octubre de 2024 y procedimientos de infracción abiertos a quien no cumpla.
- PSD2/SCA (y futura PSD3/PSR): refuerza el principio de multifactor y la independencia entre factores, clave ante la clonación de voz/rostro.
- España: el Gobierno ha tramitado un proyecto que prevé multas por no etiquetar contenido de IA y asigna a la AESIA funciones de supervisión, alineado con la AI Act.
Mitigación técnica y organizativa: un playbook mínimo para banca
No es una bala de plata. El enfoque efectivo es por capas (defense in depth).
- Autenticación adaptativa con dos o más factores fuertes: combinar inherencia (biometría) con posesión (dispositivo verificado, passkeys) y/o conocimiento dinámico. Desacoplar factores y activar controles de riesgo por contexto.
- Pruebas de liveness y challenge–response en voz y rostro (frases aleatorias, tareas motoras, preguntas zero-knowledge), además de liveness pasivo y continuo durante la sesión.
- Detección de sintéticos en tiempo real para teléfono y video (audio watermark inverso, artefactos espectrales, phoneprinting, behavioral voice), con feedback loop post-llamada.
- Controles de proceso:
- Call-back a números verificados del core bancario antes de validar cambios sensibles.
- Doble validación y límite de importe para transferencias iniciadas por canales no presenciales.
- Reautenticación fuerte ante señales de riesgo (dispositivo nuevo, geodesincronía, cambio de IBAN).
- Trazabilidad y procedencia de contenidos: adoptar C2PA/Content Credentials y etiquetado obligatorio de sintéticos en flujos internos/externos; auditar a terceros que generen o procesen medios.
- Formación: entrenar a empleados y clientes en “banderas rojas” (urgencia, cambios de cuenta, prohibición de pantallas compartidas en validaciones), con simulacros periódicos. La FTC e INCIBE ofrecen guías útiles.
- Gobierno y pruebas: alinear el programa con DORA (pruebas de resiliencia, gestión de terceros de IA, registro de incidentes) y con NIS2 (notificación temprana).
¿Cómo de grande es el riesgo? Datos y tendencias:
• Escalada global: las estafas por suplantación con IA se disparan; medios especializados reportan incrementos de triple dígito y citan el caso de Hong Kong (≈25 M $) como un hito.
• Centros de contacto bajo presión: un informe de 2024 sitúa el fraude en su cota más alta desde 2019 y advierte de la normalización de voces sintéticas.
• Proyección Gartner: para 2027, >40 % de las brechas relacionadas con IA estarán vinculadas a mal uso transfronterizo de GenAI, un espejo del desfase entre adopción y gobierno.
Clave: el problema no es solo técnico; es de gobernanza, procesos y pruebas de vida. La autenticación debe tratar a cada interacción como potencialmente sintética, sin penalizar en exceso la experiencia del cliente.
Conclusión:
La banca no puede medir su seguridad por lo convincente que suena una voz o lo realista que parece un rostro en pantalla. En la era de los avatares sintéticos, la confianza se construye con multifactor, detección de deepfakes, procedencia verificable y controles de proceso robustos, todo bajo marcos como AI Act, DORA y NIS2. La ventana para adaptarse es breve, pero hay hoja de ruta y mucho por hacer.
Perfil de LinkedIn para contacto:
https://www.linkedin.com/in/jjmartinezestaire/?originalSubdomain=es
A propósito de la noticia:
https://www.welivesecurity.com/es/estafas-enganos/deepfake-ia-inversiones-redes