Até pouco tempo, a tecnologia ‘deepfake‘ estava borbulhando sob a superfície, fora do alcance da audiência popular. No UoD estamos seguindo as notícias sobre deep fake com curiosidade e surpresos com a velocidade da sua evolução e distribuição ao público.
Eis que um novo aplicativo chamado ZAO, disponível no iTunes na China, coloca em cheque nossa necessidade de acompanhar rapidamente com essa evolução. O aplicativo subiu nas paradas chinesas nos últimos dias desde o seu lançamento, tornando os vídeos deepfakes disponíveis e prontinhos para popularizarem. Os resultados são partes iguais impressionantes e aterradoras.
Um usuário do twitter, Allan Xia, compartilhou informações sobre o app e mostrou um pouco como funciona:
Para relembrar: O combo de ‘deep learning’ e conteudo ‘fake’, chamado Deep Fake, nada mais é do que o produto da inserção digital de uma face na outra no conteúdo de vídeo. De maneira semelhante ao Snapchat e Instagram, que permite trocar de rosto com amigos, a tecnologia deepfake usa uma rede neural para mapear os recursos faciais para criar um vídeo convincente.
A rede neural precisa de muitos dados faciais para tornar os vídeos realistas, ou seja, o app acima precisa que o usuário faça performances com a camera frontal do celular como ficar de frente, lado, falar em cada posição, abrir bem a boca, os olhos, movimentar… E assim por diante.
Depois de alimentar o app, tudo o que o usuário precisa fazer é selecionar um filme “clássico” para inserir seu rosco e o aplicativo faz o resto:
Privacidade, em breve, será uma lenda
De modo claro, os uploads de rostos se mostraram problemáticos. Um usuário pode fornecer uma foto existente ou, seguindo as instruções na tela, criar uma série de fotos em que pisca os olhos e abre a boca para ajudar a criar um deepfake mais realista. Uma versão anterior do contrato de usuário de Zao afirmava que o aplicativo tinha direitos “gratuitos, irrevogáveis, permanentes, transferíveis e passíveis de relicência” para todo esse conteúdo gerado por usuários. Desde então, o Zao atualizou seus termos – o aplicativo agora diz que não usará os headshots ou mini-vídeos enviados por usuários para outros fins que não sejam para melhorar o aplicativo ou itens pré-acordados pelos usuários. Se os usuários excluirem o conteúdo que eles carregaram, o aplicativo também o apagará de seus servidores.
Vale lembrar que o app vem de um país estritamente rígido que usa de reconhecimento fácil para gerar pontuação social para sua população e, promete até 2022, contar com uma camera de vigilancia para cada duas pessoas nas principais cidades.
O aplicativo não está disponível globalmente, ainda. Está disponível apenas na China, e acredito que será difícil demais países aprovarem o app sem regulamentação ou pré-disposição a bloquea-lo. Vamos acompanhar.
Add a comment
