Ir para o conteúdo Ir para o rodapé

O que é um deepfake? Como funciona e como reconhecê-lo?

Um deepfake é um vídeo, foto ou clipe de áudio gerado ou manipulado por inteligência artificial, no qual o rosto ou a voz de alguém é imitado. É tão convincente que é quase indistinguível da realidade a olho nu.

O que começou como uma brincadeira maluca com Will Smith comendo espaguete se transformou em um instrumento de fraude. Em janeiro de 2024, um funcionário da empresa de engenharia Arup fez quinze transferências para cinco contas, totalizando cerca de 25 milhões de dólares, após uma reunião por vídeo com seu diretor financeiro e colegas. Todos os participantes da chamada eram falsos. E em 2 de agosto de 2026, o cenário legal muda: é quando entra em vigor a exigência de transparência para deepfakes prevista na Lei de Inteligência Artificial.

Este artigo explica o que é um deepfake, como a tecnologia funciona, para que serve e por que o olho humano está perdendo essa corrida.

Resumidamente

  • Um deepfake é uma mídia sintética: imagem, vídeo ou som gerado por inteligência artificial de uma pessoa que nunca disse ou fez aquilo.
  • O termo vem de aprendizado profundo mais falso. A técnica funciona com GANs e, mais recentemente, com modelos de difusão.
  • Cada vez menos material de origem é necessário. Alguns segundos de vídeo ou algumas fotos de um perfil público costumam ser suficientes.
  • Deepfakes são usados ​​para fraudes envolvendo CEOs, fraudes em candidaturas a empregos e para burlar o reconhecimento facial durante verificações de identidade.
  • O olho humano já não é um detector confiável. Dicas de reconhecimento ajudam, mas a tecnologia está avançando rapidamente.
  • A partir de 2 de agosto de 2026, o Artigo 50 da Lei de Inteligência Artificial exige que os deepfakes sejam rotulados como artificiais. As multas podem chegar a 15 milhões de euros ou 3% do faturamento global.
  • A detecção funciona em camadas: detecção de vivacidade, análise da imagem por IA e verificação do chip no documento de identidade.

Índice

O que exatamente é um deepfake?

UM Deepfake Mídia sintética: imagem, vídeo ou som gerado ou manipulado por inteligência artificial, no qual uma pessoa real aparece dizendo ou fazendo algo que nunca aconteceu.

O nome é uma contração de aprendizado profundo, a tecnologia de IA subjacente, e falso. A palavra surgiu como um nome de usuário no Reddit em 2017 e, desde então, tornou-se o termo abrangente para tudo o que é simulado de forma realista com IA.

O importante é entender o que um deepfake não é. Um vídeo cortado, um clipe em câmera lenta ou uma gravação enganosa tirada de contexto é chamado de deepfake. superficial. Aqui não há inteligência artificial envolvida, apenas um truque de edição. A distinção é importante, porque um shallowfake pode ser desmascarado com o contexto certo. Um deepfake precisa ser comprovado tecnicamente.

Resumidamente: Em um shallowfake, a gravação é real, mas editada ou retirada de contexto. Em um deepfake, a própria gravação é falsa: aquele evento nunca aconteceu.

Como é feito um deepfake?

A técnica clássica é a Rede Generativa Adversarial (GAN): Dois modelos de IA trabalhando um contra o outro. O gerador cria imagens falsas. O discriminador tenta distinguir imagens falsas de reais. Por milhares de rodadas, eles se corrigem mutuamente até que o gerador produza imagens que o discriminador não consiga mais detectar.

Os deepfakes mais recentes também dependem de modelos de difusão, a mesma família de técnicas por trás dos geradores de imagens. Estas produzem um resultado mais nítido com menos treinamento.

O que mais mudou foi a quantidade de material de origem necessário. Enquanto antes era preciso coletar centenas de fotos de diferentes ângulos, agora alguns segundos de vídeo costumam ser suficientes. Os deepfakes dos executivos da Arup foram construídos a partir de material disponível publicamente: apresentações gravadas, vídeos e perfis de redes sociais. Material que todo executivo de uma grande empresa tem online.

Do material original ao deepfake em tempo real

Quatro etapas, com cada vez menos material de origem do que há alguns anos.

01

Coletando material de origem

Apresentações gravadas, vídeos, perfis públicos. Muitas vezes, alguns segundos de gravação são suficientes.

02

Treinando um modelo

Uma GAN, ou modelo de difusão, aprende o rosto e a voz até que o resultado não seja mais perceptível.

03

Projeto Face

O rosto gerado é sobreposto à imagem da câmera do próprio fraudador.

04

Viva a conversa

A outra pessoa vê um colega, um candidato ou um gerente. Não a pessoa sentada ali.

Que tipos de deepfakes existem?

Troca de rostos. Em um vídeo já existente, o rosto da pessoa A é sobreposto ao corpo da pessoa B. Essa é a forma clássica.

Troca de rostos em tempo real. O mesmo acontece, mas ao vivo durante uma chamada de vídeo. O golpista fica sentado em frente à própria câmera; o que a outra pessoa vê é um rosto diferente. Essa é a técnica por trás do golpe da Arup e de fraudes em candidaturas de emprego durante chamadas de vídeo.

Clonagem de voz. Uma voz é imitada a partir de alguns segundos de gravação. Ela é usada em fraudes envolvendo CEOs e em golpes contra pessoas físicas.

Pessoas totalmente sintéticas. Não se trata de uma pessoa real personificada, mas sim de um rosto que nunca existiu. Combinado com dados pessoais reais ou roubados, isso resulta em uma identidade sintética: uma pessoa que parece correta no papel, mas que não existe. Essa é uma forma de fraude em si e merece uma reportagem à parte.

Para que servem os deepfakes?

Contra indivíduos privados

A grande maioria dos deepfakes é de origem pornográfica e não consensual. Além disso, há golpes envolvendo vozes clonadas de familiares e danos à reputação. O dano costuma ser permanente, mesmo depois que a imagem é desmascarada.

Contra empresas

É aí que reside o maior prejuízo financeiro, e o incidente da Arup é o exemplo clássico disso.

Em janeiro de 2024, um funcionário do setor financeiro do escritório de Hong Kong da empresa britânica de engenharia Arup recebeu um e-mail do diretor financeiro (CFO) no Reino Unido referente a uma transação confidencial. Ele não confiou no e-mail. Fez exatamente o que todo treinamento de segurança recomenda: solicitou uma videochamada para confirmação.

O diretor financeiro estava naquela chamada. E alguns colegas que ele reconheceu. Todos foram gerados por IA, construídos a partir de material de vídeo e áudio disponível publicamente.

Ele fez quinze transferências para cinco contas em Hong Kong, totalizando HK$ 200 milhões, aproximadamente 25,6 milhões de dólares. A fraude só foi descoberta quando ele ligou para a sede posteriormente. A Arup confirmou que nenhum sistema interno havia sido invadido. Não havia malware, nem exploits. Apenas uma videochamada e uma história convincente.

É exatamente isso que torna essa ameaça tão difícil. As medidas de segurança em que as organizações mais investem — autenticação multifator, detecção de endpoints, filtros de e-mail — praticamente não afetam esse ataque.

Contra processos de recrutamento e verificação

E depois a categoria onde nós DataChecker Lidar com isso diariamente.

Assim que a verificação remota de identidade é realizada — o que agora é a norma para o processo de integração — o rosto na tela se torna a prova de identidade. Exatamente esse rosto pode agora ser gerado.

Fraude em candidaturas de emprego. Um candidato passa por um processo de integração totalmente digital: entrevista em vídeo, envio de documento de identidade e verificação por selfie. O rosto na câmera não é o dele. O documento de identidade é roubado ou falsificado. A consequência pode ser um funcionário impedido de trabalhar, com todas as responsabilidades legais associadas. Lei de Responsabilidade em Cadeia.

Ignorando o reconhecimento facial. Isso não é uma teoria. A polícia de Hong Kong relatou, quase simultaneamente ao caso Arup, que fraudadores haviam feito noventa pedidos de empréstimo e cinquenta e quatro aberturas de contas bancárias usando oito documentos de identidade roubados. Em pelo menos vinte dessas tentativas, um deepfake gerado por inteligência artificial foi usado para enganar um sistema de reconhecimento facial.

Uso múltiplo de uma única identidade. Redes criminosas vinculam identidades roubadas a um rosto criado artificialmente e usam a mesma identidade legal simultaneamente em diferentes agências de emprego.

Resumidamente: Uma chamada de vídeo nunca foi concebida como um meio de verificação de identidade. No entanto, foi usada para esse fim, porque durante décadas um rosto na tela era prova suficiente. Isso não é mais verdade.

Como reconhecer um deepfake?

Há sinais. Eles estão ficando mais fracos a cada ano.

Olhos e piscadas. Os primeiros deepfakes mal piscavam. Os modelos modernos são muito melhores nisso, mas contato visual não natural ou um olhar fixo continuam sendo indícios.

As extremidades do rosto. Ao redor do cabelo, orelhas e mandíbula, às vezes é possível observar transições borradas, diferenças de cor ou pixels que não se alinham perfeitamente.

Dublagem Os movimentos dos dentes, da língua e dos lábios nem sempre estão sincronizados com o som. Consoantes como f e v são tecnicamente difíceis.

Luz e sombra. O rosto está iluminado de forma diferente do ambiente ao redor, ou as sombras incidem na direção errada.

A voz. Vozes clonadas muitas vezes soam suaves demais: pouca respiração, pouca variação de tom.

Pele. Inacreditavelmente lisa. Sem poros, sem imperfeições.

E então, a conclusão honesta: essa não é mais uma defesa confiável. Um deepfake bem feito, visto por um recrutador que realiza trinta entrevistas por semana, vai perceber a farsa. O funcionário da Arup foi observador o suficiente para desconfiar do e-mail. Mesmo assim, ele prosseguiu com a entrevista, porque viu e ouviu seu diretor financeiro.

O olhar contra a tecnologia

Duas maneiras de olhar para a mesma imagem

O que o olho humano vê

  • Essa pessoa está piscando normalmente?
  • Os lábios correspondem ao som?
  • A sombra no rosto está correta?
  • A pele parece real?

A cada ano que passa, torna-se menos confiável. Um deepfake bem feito consegue burlar isso.

Que medidas a tecnologia de detecção mede?

  • Há alguma pessoa viva em frente à câmera?
  • A imagem apresenta artefatos gerados por IA?
  • A geometria facial está correta de um quadro para o outro?
  • A assinatura no chip do documento é válida?

Mede propriedades que o olho não vê.

Dica: Para pedidos incomuns, nunca confie na imagem na tela, por mais convincente que seja. Sempre confirme por meio de um segundo canal independente: ligue de volta para um número que você mesmo pesquisou, não para um número mencionado durante a conversa.

Deepfake, falsificação ou identidade sintética?

Esses termos são usados ​​de forma intercambiável. A diferença entre eles determina qual defesa funciona.

O que é isso?O que ataca
DeepfakeImagem ou som de uma pessoa gerado por IASua confiança no que você vê e ouve.
SpoofingFingir ser outra pessoa por meio de um canal falsificado, como um número de telefone ou endereço de e-mail.Sua confiança no remetente
Identidade sintéticaUma pessoa que não existe, construída a partir de dados reais e fabricados.Sua confiança no arquivo

Na prática, eles se combinam. A fraude da Arup começou com um e-mail falsificado e evoluiu para uma chamada de vídeo deepfake.

Criar um deepfake é crime?

Não existe um artigo legal nos Países Baixos chamado "deepfake". O que existe, no entanto, são disposições penais aplicáveis ​​a essa prática.

Para deepfakes de conteúdo sexual, o Artigo 139h do Código Penal holandês serve como base, o qual, desde 2020, criminaliza a produção e a divulgação pública de material visual de natureza sexual sem consentimento. O Tribunal Distrital de Amsterdã decidiu, em 2023, que um vídeo pornográfico deepfake se enquadra neste artigo, desde que a imagem pareça tão real que uma pessoa razoável possa considerá-la autêntica. Além disso, dependendo do caso, podem ser considerados crimes como fraude, difamação, coerção e roubo de identidade.

A WODC concluiu anteriormente que o problema reside não tanto na legislação, mas na sua aplicação: provar que algo é um deepfake exige conhecimentos técnicos que ainda são escassos.

O que muda em 2 de agosto de 2026?

A partir de 2 de agosto de 2026, o Artigo 50 da Lei de IA (Regulamento (UE) 2024/1689) entra em vigor. Esse artigo introduz uma obrigação explícita de transparência para deepfakes: qualquer pessoa que publique imagens, áudio ou vídeo gerados ou manipulados por IA que sejam suficientemente realistas para serem confundidos com reais deve deixar claro que se tratam de conteúdo artificial.

Dois pontos são importantes a este respeito. Primeiro, esta obrigação não foi adiada. As obrigações relativas a conteúdos de alto risco, previstas na Lei de Inteligência Artificial, foram mantidas através do pacote Digital Omnibus, mas a obrigação de transparência para deepfakes permanece agendada para 2 de agosto. Segundo, não é necessário que haja intenção maliciosa: um deepfake bem-intencionado ou comercial também se enquadra na obrigação. Uma versão mais branda da obrigação aplica-se a obras claramente artísticas, satíricas ou ficcionais. As multas podem chegar a 15 milhões de euros ou 3% do faturamento anual global.

Isso, obviamente, é uma obrigação de transparência para quem cria deepfakes, e não uma proteção contra quem os usa maliciosamente. Os fraudadores não rotulam seus deepfakes. Para as organizações que verificam identidades, portanto, pouca coisa muda juridicamente nesse ponto; a defesa continua sendo de natureza técnica.

Para saber mais sobre como a Lei de Inteligência Artificial afeta as aplicações biométricas, consulte nosso artigo sobre o assunto. a Lei de Inteligência Artificial e a identificação biométrica.

O que fazer se você for vítima de um deepfake?

  1. Documente as provas. Faça capturas de tela ou baixe o conteúdo antes que ele desapareça. Anote onde e quando você o encontrou.
  2. Denuncie à plataforma. Nos termos da Lei de Serviços Digitais, as plataformas de redes sociais são obrigadas a remover conteúdo ilegal e a ter procedimentos de denúncia em vigor para esse fim.
  3. Apresente uma denúncia. No caso de deepfakes de cunho sexual ou relacionados à identidade, registrar uma denúncia é possível e válido, embora fornecer provas seja difícil.
  4. Peça ajuda. A organização Victim Support Netherlands presta apoio a vítimas de abuso online.
  5. Considere apresentar uma reclamação à Autoridade Holandesa de Proteção de Dados. Os dados pessoais são utilizados para criar um deepfake de uma pessoa real, geralmente sem fundamento legal. Isso pode dar origem a uma reclamação junto à Autoridade Holandesa de Proteção de Dados (AP).

Como a tecnologia detecta deepfakes

Quando o olho humano já não consegue prevalecer, a verificação deve assumir o controle. A detecção eficaz funciona em camadas, pois cada camada pode ser contornada individualmente.

Por exemplo, tem DataChecker mobiliou-o

Detecção em quatro camadas

Cada camada pode ser contornada individualmente. Juntas, elas tornam tudo muito mais difícil.

Camada 1 · Detecção de vivacidade

Ativo e passivo ao mesmo tempo. Há uma pessoa viva em frente à câmera, ou é uma foto, gravação ou rosto gerado por computador?

Camada 2 · Detecção de IA de mídia sintética

Análise de padrões de textura, geometria facial e artefatos de geração. Fornece uma pontuação de risco, não um simples sim ou não.

Camada 3 · O chip no documento

Os dados do chip são assinados digitalmente pela autoridade emissora. Isso garante a autenticidade do documento, independentemente do que aconteça diante da câmera.

Camada 4 · Onde os dados ficam armazenados

Certificação ISO/IEC 27001:2022 emitida pela BSI. Todos os dados de verificação são processados ​​na UE.

Camada 1: detecção de vivacidade

FaceVerify Não se trata apenas de comparar uma selfie com a foto no documento de identidade. O sistema verifica se há uma pessoa real em frente à câmera, e não uma foto, uma gravação de tela ou um rosto gerado por inteligência artificial.

Isso acontece de duas maneiras simultaneamente. A detecção ativa de atividades induz o usuário a realizar uma ação. A detecção passiva de atividades analisa a imagem em segundo plano sem que o usuário perceba. A combinação é intencional: um ataque que ignora uma camada geralmente tropeça na outra.

Camada 2: Detecção de mídia sintética por IA

Além disso, a camada de análise de vivacidade... DataChecker Os quadros de vídeo para geração de IA apresentam as seguintes características: padrões de textura anômalos, inconsistências na geometria facial e artefatos típicos de imagens geradas.

O resultado não é um simples sim ou não, mas sim uma pontuação de risco em tempo real. Essa é uma escolha deliberada. Um "sim" ou "não" categórico força o sistema a sempre optar por um lado em casos de dúvida e, portanto, às vezes, a errar. Uma pontuação permite que o avaliador faça a avaliação por si próprio, levando em consideração o contexto da solicitação.

Camada 3: o chip no documento

Essa é uma camada robusta, e a razão pela qual a verificação de documentos é fundamentalmente diferente da verificação facial.

É possível gerar um rosto. Os dados no chip de um passaporte compatível com a OACI são assinados digitalmente pela autoridade emissora do documento. DataChecker Lê os dados do documento original a partir do chip NFC e verifica se a assinatura está correta.

Isso faz da verificação do chip uma das formas mais robustas de verificar a autenticidade de um documento de identidade. A comparação facial e a detecção de vivacidade determinam se a pessoa em frente à câmera é de fato a portadora do documento. É justamente essa combinação que dificulta a criação de deepfakes.

Camada 4: onde os dados ficam armazenados

DataChecker A empresa possui certificação ISO/IEC 27001:2022 emitida pela BSI (certificado ISC 365) para o desenvolvimento e implementação da verificação de dados pessoais. Todos os dados de verificação são processados ​​dentro da UE.

Agende uma demonstração e veja como a detecção de deepfakes funciona em um processo de integração real.

Última atualização: novembro de 2026. A entrada em vigor do Artigo 50 da Lei de IA está prevista para 2 de agosto de 2026; a Comissão Europeia ainda está finalizando as diretrizes e o código de conduta.

perguntas frequentes

Perguntas frequentes sobre deepfakes

O que significa deepfake?

Deepfake é uma abreviação de aprendizado profundo e falso. Significa imagem, vídeo ou som gerado ou manipulado por IA, no qual uma pessoa parece dizer ou fazer algo que nunca aconteceu.

Em um shallowfake, a gravação é real, mas manipulada por meio de edição ou contexto enganoso. Já em um deepfake, a própria gravação é gerada por inteligência artificial.

Sim. Durante o cadastro digital e chamadas de vídeo, um fraudador pode usar a troca de rostos em tempo real. A polícia de Hong Kong constatou que deepfakes criados por IA conseguiram enganar sistemas de reconhecimento facial em pelo menos vinte casos.

Não existe um artigo legal específico sobre deepfakes. No entanto, aplicam-se as disposições existentes: o Tribunal Distrital de Amsterdã decidiu, em 2023, que um vídeo pornográfico deepfake se enquadra no Artigo 139h do Código Penal holandês. Dependendo do caso, podem também estar envolvidos crimes como fraude, difamação ou roubo de identidade.

Nesse caso, aplica-se o Artigo 50 da Lei de Inteligência Artificial, que impõe a obrigação de transparência em relação aos deepfakes. Qualquer pessoa que publique imagens realistas geradas por IA deve divulgar que se tratam de imagens artificiais, mesmo sem intenção maliciosa. As multas podem chegar a 15 milhões de euros ou 3% do faturamento global.

Cada vez mais pouco confiável. Sinais como piscadas não naturais, contornos faciais borrados e dessincronização labial ajudam, mas deepfakes bem feitos conseguem passar. A detecção técnica é necessária.

A detecção de atividade por si só não é suficiente contra os ataques mais avançados. Portanto, ela combina DataChecker Reconhecimento de vivacidade ativo e passivo com detecção por IA de mídias sintéticas e leitura do chip NFC no documento de identidade. Os dados do chip são assinados digitalmente pela autoridade emissora e são independentes do quão convincente seja o rosto na câmera.

Voltar ao topo