Deepfakes são vídeos ou imagens gerados por computador que podem ser criados para manipular rostos ou vozes humanas de forma a parecerem verdadeiros. Do ponto de vista jurídico, essas criações são mais do que delicadas.
Criar deepfakes: o que pode criar exatamente com o software
Os deepfakes podem ser divertidos, especialmente entre amigos, e têm potencial para se tornarem memes. Hoje em dia, parecem incrivelmente reais: rostos dizem frases em vídeos que a pessoa real nunca disse, pessoas aparecem em cenas em que nunca estiveram. O que antes só era possível em Hollywood, hoje pode ser feito com software de acesso gratuito. Mas, apesar de todo o fascínio, a tecnologia não é apenas poderosa, é também altamente sensível do ponto de vista jurídico e ético.
- Um deepfake é um material de imagem, áudio ou vídeo manipulado por IA, no qual uma pessoa é substituída por outra ou simulada de forma enganosa. São particularmente conhecidos os deepfakes em que o rosto ou a voz de uma pessoa real é usado num vídeo para fazer com que ela aparente dizer ou fazer coisas.
- A tecnologia por trás disso é baseada em redes neurais, principalmente as chamadas Redes Adversárias Generativas (GANs). Com essas ferramentas, mesmo leigos com conhecimentos técnicos podem criar deepfakes. Exemplos disso são o DeepFaceLab, o FaceSwap ou a aplicação Zao.
- O DeepFaceLab é provavelmente a ferramenta de código aberto mais conhecida para deepfakes. Oferece grande flexibilidade, mas também uma interface de utilizador complexa, sendo ideal para utilizadores experientes com conhecimentos técnicos. O FaceSwap, outro projeto de código aberto, oferece uma interface um pouco mais amigável para iniciantes.
- A aplicação chinesa Zao troca rostos em cenas de filmes em segundos. É muito fácil de usar, mas tem uma política de privacidade questionável.
- Reface, DeepSwap e Deepswap.ai são serviços comerciais baseados na nuvem com uma interface de utilizador intuitiva. Permitem trocar rostos em poucos minutos, mediante o pagamento de uma taxa ou assinatura. É importante verificar cuidadosamente as políticas de privacidade e os termos de utilização.
- Para criar um deepfake, recolha imagens ou vídeos da pessoa que pretende utilizar no seu deepfake. Quanto mais imagens tiver, melhor será o resultado.
- Utilize o software selecionado para isolar e analisar os rostos da pessoa nas imagens. Selecione um vídeo ou imagem de destino no qual deseja inserir o rosto da pessoa.
- Com a ajuda do software, pode inserir o rosto da pessoa no vídeo ou imagem de destino e ajustá-lo.
Riscos e regulamentações legais dos deepfakes
Os deepfakes podem ser divertidos para fins privados, mas, infelizmente, também podem ser usados para espalhar informações falsas ou enganosas, conhecidas como fake news. Isso pode levar não só à difamação, mas também à manipulação política. Por isso, a situação jurídica relativa aos deepfakes está a tornar-se cada vez mais rigorosa em todo o mundo. Em muitos países, incluindo a Alemanha, foram aprovadas regulamentações específicas para conter violações dos direitos pessoais, cyberbullying e desinformação política.
- Isto porque existe também o risco de os deepfakes serem utilizados para retratar alguém numa situação sexualmente explícita ou embaraçosa, o que pode ser considerado uma violação da privacidade.
- Na Alemanha, o direito à própria imagem é protegido pelos artigos 22 e 23 da KunstUrhG (Lei de Direitos Autorais) e pelo direito geral à personalidade nos artigos 1 e 2 da Constituição. A divulgação de deepfakes sem o consentimento da pessoa em questão pode ser considerada uma violação dos direitos pessoais, difamação ou até mesmo roubo de identidade.
- É especialmente proibida a manipulação erótica ou política sem consentimento – neste caso, podem ser aplicadas sanções civis e penais.
- É permitido criar deepfakes para fins artísticos, satíricos, paródicos ou jornalísticos. Em alguns países, como a Áustria, estão a ser consideradas leis para regulamentar e proibir a criação e a divulgação de deepfakes. No entanto, isso também pode ter um impacto na liberdade de expressão e na liberdade criativa.
- É importante agir de forma eticamente responsável ao criar e divulgar deepfakes e garantir que eles não sejam usados para prejudicar ou afetar outras pessoas. Sempre obtenha o consentimento expresso das pessoas envolvidas antes de usar o rosto ou a voz delas em um deepfake.
- Além disso, certifique-se de que a fonte de um deepfake esteja claramente identificada para alertar os espectadores de que se trata de uma representação manipulada.
- Mesmo que utilize deepfakes para fins privados ou de entretenimento, uma identificação clara é eticamente necessária. O público deve poder reconhecer que se trata de um meio criado artificialmente. Isso protege não só a pessoa com quem está a interagir, mas também a sua própria credibilidade, por exemplo, em publicações nas redes sociais.
- Atualmente, existem meios suficientes para detetar deepfakes. Ferramentas como o Microsoft Video Authenticator, o Deepware Scanner, o FakeCatcher da Intel ou filtros baseados em IA nas redes sociais analisam alterações nos pixels, reflexos de luz, piscadas e outros indícios de manipulação digital. Estas ferramentas ajudam a identificar falsificações e promovem a literacia mediática na era digital.
