O Fórum Econômico Mundial emitiu um alerta sobre os riscos associados às deepfakes, destacando que conteúdos falsificados com tecnologia de inteligência artificial estão entre as ameaças mais significativas à confiança digital, segurança empresarial e integridade das comunicações online.
Segundo a publicação, golpes sofisticados com deepfakes — que combinam vídeo, áudio e voz gerados artificialmente — já resultaram em ataques de fraude altamente personalizados, incluindo a simulação de executivos em chamadas corporativas que resultaram em perdas financeiras substanciais. Estes ataques evidenciam uma evolução das deepfakes que vai além da desinformação política, passando a representar um risco direto à confiança nas comunicações digitais e à segurança comercial global.
O avanço das tecnologias de geração de conteúdo sintético impõe novos desafios para a manutenção da confiança digital, conforme alerta. Um relatório publicado em 8 de janeiro de 2026, pelo Cybercrime Atlas, indica que ferramentas de troca de rostos, conhecidas como face-swapping, permitem que agentes maliciosos burlem processos de verificação remota e protocolos de Conheça seu Cliente (KYC). O documento detalha como a integração de inteligência artificial facilita a entrada de criminosos em sistemas financeiros e plataformas de criptomoedas.
Expansão das fraudes em biometria e kyc
A pesquisa do WEF analisou 17 ferramentas de troca de rostos e técnicas de injeção de câmera. Os resultados mostram que criminosos combinam documentos de identidade gerados por IA ou furtados com mídias manipuladas em tempo real. Essa tática tem como objetivo derrotar sistemas de biometria que dependem da detecção de vivacidade para validar usuários. Em 2023, as tentativas de fraude utilizando face-swapping para contornar verificações de identidade registraram um aumento de 704%.
O relatório aponta que o risco é crítico em fluxos de verificação onde as trocas de face ocorrem com baixa latência e alta fidelidade. Mesmo modelos de qualidade moderada conseguem enganar sistemas sob condições técnicas específicas, como falhas na iluminação ou ruídos no sinal de vídeo. O custo para produzir esses ataques diminuiu, democratizando o acesso a métodos que antes exigiam alto conhecimento técnico.
Impactos operacionais e recomendações institucionais
As consequências dessas práticas atingem níveis individuais, organizacionais e sistêmicos. No âmbito corporativo, as empresas enfrentam riscos em processos de recrutamento e integração de funcionários remotos. Um caso registrado em janeiro de 2024 resultou no desvio de US$ 25,5 milhões da empresa de engenharia Arup, após um funcionário participar de uma videoconferência onde todos os outros participantes eram deepfakes de executivos da companhia.
Para mitigar essas ameaças, o WEF apresentou 27 recomendações destinadas a provedores de soluções KYC, equipes de fraude e instituições internacionais. Entre as medidas sugeridas estão o fortalecimento de mecanismos de resposta a incidentes, a adoção de padrões globais de segurança e a implementação de motores de risco que monitorem anomalias em tempo real. A estimativa é que o mercado de IA generativa cresça 560% entre 2025 e 2031, atingindo o valor de US$ 442 bilhões, o que sinaliza a continuidade da evolução das ferramentas de manipulação.
FONTE: CISO ADVISOR
