Deepfake: usando a IA para descobrir a verdade
Vídeos, fotos e vozes manipuladas estão se tornando cada dia mais comuns.
Os cientistas estão usando o superaprendizado de máquina para detectar falsificações geradas por IA.
Assista: www.dw.com/pt-br/deepfake-usando-a-ia-para-descobrir-a-verdade/video-70406493
Deutsche Welle 11/10/2024
Como identificar vídeos falsos e deepfakes na internet
Por isso, para não cairmos em golpes ou propagarmos informações falsas, precisamos estar atentos a como indetificar estes vídeos.
O que é deepfake?
A palavra “deepfake” é uma combinação de “deep learning” (aprendizado profundo) e “fake” (falso), o que reflete a base tecnológica desse recurso: algoritmos avançados que aprendem a manipular conteúdos visuais e sonoros de maneira sofisticada.
A técnica utiliza redes neurais artificiais, em particular, uma abordagem conhecida como Generative Adversarial Networks (GANs), que consiste em dois sistemas de IA trabalhando em conjunto: um que cria as falsificações e outro que tenta identificar essas falsificações. Ao longo do tempo, esse processo de “tentativa e erro” permite que o sistema produza vídeos e áudios que são quase indistinguíveis dos originais.
Os deepfakes podem ser usados para diversas finalidades, desde entretenimento e criação de conteúdos inofensivos até atividades maliciosas, como a propagação de desinformação, fraudes e violações de privacidade.
Por isso, eles se tornaram uma grande preocupação, principalmente em contextos políticos, sociais e de segurança, onde podem ser usados para enganar e manipular a opinião pública.
Essa crescente sofisticação dos deepfakes torna cada vez mais desafiador identificar vídeos falsos, o que ressalta a importância de compreender as características e sinais que podem indicar manipulação.
Dicas para detectar vídeos falsos
Para ajudar nesse processo, Gabriel Gomes de Oliveira, membro do Instituto de Engenheiros Elétricos e Eletrônicos (IEEE), compartilhou seis recomendações relevantes para os dias atuais.
O IEEE, sendo a maior organização profissional técnica do mundo dedicada ao avanço da tecnologia, tem se preocupado em educar o público sobre as ameaças crescentes dos deepfakes.
Abaixo, estão algumas das principais dicas e métodos, baseada nas orientações do especialista, para detectar vídeos falsos:
1. Preste atenção aos elementos digitais na imagem
Vídeos falsificados muitas vezes contêm pequenas inconsistências que não estariam presentes em vídeos genuínos. Isso pode incluir bordas borradas, sobreposições mal feitas ou artefatos digitais que indicam manipulação.
Detalhes como sombras que não correspondem à iluminação da cena ou objetos que parecem “flutuar” sem contato natural com o ambiente também podem ser indícios de um deepfake.
2. Observe a iluminação da cena
A iluminação inconsistente é uma das marcas de um vídeo manipulado. Deepfakes muitas vezes apresentam variações não naturais na iluminação de um quadro para o outro, ou sombras que mudam de direção inexplicavelmente.
Esse tipo de erro ocorre porque a IA pode ter dificuldades em reproduzir com precisão como a luz interage com diferentes superfícies em um ambiente tridimensional.
3. Identifique movimentos bruscos e não naturais
Movimentos que parecem mecânicos ou fora do ritmo natural do corpo humano podem ser sinais de falsificação.
Em muitos deepfakes, os movimentos das pessoas podem parecer ligeiramente “desligados”, com transições abruptas ou gestos que não fluem de maneira orgânica.
Tal fenômeno acontece porque a IA que gera os deepfakes ainda não é perfeita na replicação de todos os aspectos do movimento humano.
4. Verifique mudanças abruptas no tom de pele
Alterações no tom de pele que não parecem naturais podem ser outro sinal de que o vídeo foi manipulado. Em vídeos deepfake, pode haver dificuldades em manter uma coloração consistente ao longo de um vídeo, resultando em partes da pele que parecem mais claras ou mais escuras sem uma razão aparente.
5. Analise o aspecto piscante dos olhos
A frequência de piscadas pode ser um indicador importante. No início da tecnologia deepfake, era comum que os personagens falsificados não piscassem com frequência normal, ou o fizessem de forma não natural.
Embora isso tenha melhorado com o tempo, ainda é possível detectar anomalias no comportamento dos olhos, especialmente em vídeos mais longos.
6. Avalie a sincronia labial com a fala
Um dos aspectos mais desafiadores de se replicar perfeitamente é a sincronia entre o movimento dos lábios e o áudio. Deepfakes podem apresentar lábios que não se movem de forma perfeitamente sincronizada com as palavras que estão sendo ditas.
É bastante perceptível quando há uma ênfase forte em certas palavras ou sons que exigem movimentos labiais mais pronunciados.
Precisamos estar atentos
Aprender a detectar vídeos falsos e deepfakes na internet é uma habilidade cada vez mais requisitada e exigida em um mundo onde as tecnologias de manipulação digital estão cada vez mais realistas
Os deepfakes, em particular, representam um desafio significativo e ameaçador à liberdade de informação, pois são capazes de criar conteúdos visualmente impressionantes que podem facilmente enganar o público desavisado.
No entanto, ao menos por enquanto, com o conhecimento certo, olhos atentos e com acesso às ferramentas adequadas, é possível identificar esses vídeos e proteger-se contra suas potenciais consequências.
Em última análise, estar informado e vigilante é o melhor caminho para proteger a privacidade e a veracidade das informações em um mundo cada vez repleto de deepfake.
Crédito: Gustavo Bonato Abrão / Mundo Conectado – @ disponível na internet 11/10/2024