3
Os deepfakes são vídeos ou imagens gerados por computador que pode criar para manipular rostos ou vozes humanas de forma a parecerem incrivelmente reais. Do ponto de vista jurídico, estas criações são mais do que delicadas.
Criar deepfakes: o que pode criar exatamente com o software
Os deepfakes podem ser divertidos, sobretudo entre amigos, e têm potencial para se tornarem memes. Atualmente, parecem surpreendentemente reais: rostos dizem frases em vídeos que a pessoa real nunca disse, pessoas aparecem em cenas onde nunca estiveram. O que antes só era possível em Hollywood pode hoje ser concretizado com software de acesso livre. Mas, apesar de toda a fascinação: a tecnologia não é apenas poderosa – é também altamente sensível do ponto de vista jurídico e ético.
- Um deepfake é, na verdade, material de imagem, áudio ou vídeo manipulado por IA, no qual uma pessoa é substituída por outra ou simulada de forma enganosamente realista. São particularmente conhecidos os deepfakes em que o rosto ou a voz de uma pessoa real são utilizados num vídeo para, aparentemente, a fazer dizer ou fazer coisas.
- A tecnologia subjacente baseia-se em redes neurais, sobretudo nas chamadas Redes Adversariais Generativas (GANs). Com estas ferramentas, mesmo leigos com conhecimentos técnicos podem criar deepfakes. Exemplos disso são o DeepFaceLab, o FaceSwap ou a aplicação Zao.
- O DeepFaceLab é, provavelmente, a ferramenta de código aberto mais conhecida para deepfakes. Oferece grande flexibilidade, mas também uma interface de utilizador complexa, sendo ideal para utilizadores experientes com conhecimentos técnicos prévios. O FaceSwap, outro projeto de código aberto, oferece, por sua vez, uma interface um pouco mais acessível para principiantes.
- A aplicação chinesa Zao troca rostos em cenas de filmes em segundos. É muito fácil de utilizar, mas tem uma política de privacidade questionável.
- Reface, DeepSwap e Deepswap.ai são serviços comerciais baseados na nuvem com orientações claras para o utilizador. Permitem a troca de rostos em poucos minutos – mediante pagamento ou por assinatura. Deve verificar cuidadosamente as condições de privacidade e de utilização.
- Para criar um deepfake, recolha imagens ou vídeos da pessoa que pretende utilizar no seu deepfake. Quanto mais imagens tiver, melhor será o resultado.
- Utilize o software selecionado para isolar e analisar os rostos da pessoa nas imagens. Selecione um vídeo ou uma imagem de destino onde pretenda inserir o rosto da pessoa.
- Com a ajuda do software, pode inserir o rosto da pessoa no vídeo ou na imagem de destino e ajustá-lo.
Riscos e disposições legais relativas aos deepfakes
- Pois existe também, por exemplo, o risco de os deepfakes serem utilizados para retratar alguém numa situação sexualmente explícita ou embaraçosa, o que pode ser considerado uma violação da privacidade.
- Na Alemanha, o direito à própria imagem está protegido nos termos dos artigos 22.º e 23.º da KunstUrhG, bem como o direito geral à personalidade nos artigos 1.º e 2.º da Lei Fundamental. A divulgação de deepfakes sem o consentimento da pessoa em causa pode ser considerada uma violação dos direitos da personalidade, difamação ou mesmo roubo de identidade.
- É especialmente proibida a manipulação erótica ou política sem consentimento – neste caso, podem ocorrer consequências civis e penais.
- É permitido criar deepfakes na arte, na sátira, na paródia ou para fins jornalísticos. No entanto, em alguns países, como por exemplo a Áustria, estão a ser ponderadas leis para regulamentar e proibir a criação e a divulgação de deepfakes. Contudo, isto também pode ter repercussões na liberdade de expressão e na liberdade criativa.
- É importante agir de forma eticamente responsável na criação e divulgação de deepfakes e garantir que estes não sejam utilizados para prejudicar ou afetar outras pessoas. Obtenha sempre o consentimento expresso das pessoas em causa antes de utilizar o seu rosto ou voz num deepfake.
- Além disso, deve certificar-se de que a fonte de um deepfake está claramente identificada , para alertar os espectadores de que se trata de uma representação manipulada.
- Mesmo que utilize deepfakes a título privado ou para fins de entretenimento: Uma identificação clara é eticamente necessária. O público deve poder reconhecer que se trata de um meio produzido artificialmente. Isto protege não só a pessoa em questão, mas também a sua própria credibilidade – por exemplo, em publicações nas redes sociais.
- Atualmente, já existem meios suficientes para detetar deepfakes. Ferramentas como o Microsoft Video Authenticator, o Deepware Scanner, o FakeCatcher da Intel ou filtros baseados em IA nas redes sociais analisam alterações de píxeis, reflexos de luz, comportamentos de pestanejar e outros indícios de manipulação digital. Estas ferramentas ajudam a identificar falsificações e promovem a literacia mediática na era digital.
