Creare deepfake: ecco come fare

I deepfake sono video o immagini generati al computer che è possibile creare per manipolare volti o voci umane in modo tale da renderli incredibilmente realistici. Dal punto di vista legale, tali creazioni sono più che delicate.

Creare deepfake: cosa si può creare esattamente con il software

I deepfake possono essere divertenti soprattutto tra amici e hanno un potenziale meme. Oggi sembrano incredibilmente reali: i volti pronunciano frasi in video che la persona reale non ha mai detto, le persone appaiono in scene in cui non sono mai state. Ciò che prima era possibile solo a Hollywood, oggi può essere realizzato con software liberamente accessibili. Ma nonostante tutto il fascino, la tecnologia non è solo potente, è anche molto delicata dal punto di vista legale ed etico.

• Un deepfake è un materiale audio, video o immagine manipolato dall’intelligenza artificiale in cui una persona viene sostituita da un’altra o simulata in modo incredibilmente realistico. Particolarmente noti sono i deepfake in cui il volto o la voce di una persona reale vengono utilizzati in un video per farle dire o fare cose che sembrano reali.

• La tecnologia alla base si basa su reti neurali, in particolare le cosiddette Generative Adversarial Networks (GAN). Con questi strumenti, anche i profani con una certa dimestichezza con la tecnologia possono creare deepfake. Ne sono esempi DeepFaceLab, FaceSwap o l’app Zao.

• DeepFaceLab è probabilmente lo strumento open source più noto per i deepfake. Offre una grande flessibilità, ma anche un’interfaccia utente complessa ed è ideale per utenti esperti con una formazione tecnica. FaceSwap, un altro progetto open source, offre invece un’interfaccia un po’ più intuitiva per i principianti.

• L’app cinese Zao sostituisce i volti nelle scene dei film in pochi secondi. È molto facile da usare, ma ha una politica sulla privacy discutibile.

• Reface, DeepSwap e Deepswap.ai sono servizi commerciali basati su cloud con una guida utente chiara. Consentono di scambiare i volti in pochi minuti, a pagamento o con un abbonamento. Si consiglia di leggere attentamente l’informativa sulla privacy e le condizioni d’uso.

• Per creare un deepfake, raccogli immagini o video della persona che desideri utilizzare nel tuo deepfake. Più immagini hai, migliore sarà il risultato.

• Utilizza il software selezionato per isolare e analizzare i volti delle persone nelle immagini. Seleziona un video o un’immagine di destinazione in cui desideri inserire il volto della persona.

• Il software ti consente di inserire il volto della persona nel video o nell’immagine di destinazione e di personalizzarlo.

Rischi e normative legali dei deepfake

I deepfake possono essere divertenti per scopi privati, ma purtroppo possono anche essere utilizzati per diffondere informazioni false o fuorvianti, note come fake news. Ciò può portare non solo alla diffamazione, ma anche alla manipolazione politica. La situazione giuridica relativa ai deepfake sta quindi diventando sempre più severa in tutto il mondo. In molti paesi, tra cui la Germania, sono state emanate norme specifiche per limitare le violazioni dei diritti della personalità, il cyberbullismo e la disinformazione politica.

• Esiste infatti il rischio che i deepfake vengano utilizzati per rappresentare qualcuno in una situazione sessualmente esplicita o imbarazzante, il che può essere considerato una violazione della privacy.

• In Germania, il diritto all’immagine è tutelato dagli articoli 22 e 23 della KunstUrhG (legge sul diritto d’autore) e dal diritto generale alla personalità di cui agli articoli 1 e 2 della Costituzione. La diffusione di deepfake senza il consenso della persona interessata può essere considerata una violazione dei diritti della personalità, diffamazione o persino furto d’identità.

• È particolarmente vietata la manipolazione a fini erotici o politici senza consenso, che comporta conseguenze civili e penali.

• È consentito creare deepfake nell’ambito dell’arte, della satira, della parodia o per scopi giornalistici. In alcuni paesi, come ad esempio l’Austria, si sta tuttavia valutando l’introduzione di leggi per regolamentare e vietare la creazione e la diffusione dei deepfake. Ciò potrebbe tuttavia avere ripercussioni sulla libertà di espressione e sulla libertà creativa.

• È importante agire in modo eticamente responsabile nella creazione e diffusione dei deepfake e garantire che non vengano utilizzati per danneggiare o compromettere altre persone. Ottenete sempre il consenso esplicito delle persone interessate prima di utilizzare il loro volto o la loro voce in un deepfake.

• Inoltre, è necessario assicurarsi che la fonte di un deepfake sia chiaramente indicata per informare gli spettatori che si tratta di una rappresentazione manipolata.

• Anche se si utilizzano i deepfake a titolo privato o per scopi di intrattenimento, è eticamente necessario indicarne chiaramente la provenienza. Il pubblico deve poter riconoscere che si tratta di un mezzo di comunicazione creato artificialmente. Ciò protegge non solo il vostro interlocutore, ma anche la vostra credibilità, ad esempio nei post sui social media.

• Nel frattempo esistono anche strumenti sufficienti per riconoscere i deepfake. Strumenti come Microsoft Video Authenticator, Deepware Scanner, FakeCatcher di Intel o filtri basati sull’intelligenza artificiale nei social network analizzano le variazioni dei pixel, i riflessi di luce, il comportamento delle palpebre e altri indizi di manipolazione digitale. Questi strumenti aiutano a riconoscere i falsi e promuovono la competenza mediatica nell’era digitale.