6
I deepfake sono video o immagini generati al computer che è possibile creare per manipolare volti o voci umane in modo che sembrino incredibilmente reali. Dal punto di vista legale, tali creazioni sono più che delicate.
Creare deepfake: cosa si può realizzare esattamente con il software
I deepfake possono essere divertenti soprattutto tra amici e hanno un potenziale da meme. Oggi sembrano incredibilmente reali: nei video i volti pronunciano frasi che la persona reale non ha mai detto, le persone compaiono in scene in cui non sono mai state. Ciò che un tempo era possibile solo a Hollywood, oggi può essere realizzato con software liberamente accessibile. Ma nonostante tutto il fascino che esercita, questa tecnologia non è solo potente, ma anche estremamente delicata dal punto di vista giuridico ed etico.
- Un deepfake è infatti un materiale visivo, audio o video manipolato tramite intelligenza artificiale, in cui una persona viene sostituita da un’altra o simulata in modo incredibilmente realistico. Particolarmente noti sono i deepfake in cui il volto o la voce di una persona reale vengono utilizzati in un video per farle apparentemente dire o fare cose che non ha detto o fatto.
- La tecnologia alla base si fonda sulle reti neurali, in particolare sulle cosiddette Generative Adversarial Networks (GAN). Con questi strumenti anche i non esperti, ma con una certa dimestichezza tecnica, possono creare deepfake. Ne sono un esempio DeepFaceLab, FaceSwap o l’app Zao.
- DeepFaceLab è probabilmente lo strumento open source più noto per i deepfake. Offre grande flessibilità, ma anche un’interfaccia utente complessa ed è ideale per utenti esperti con una formazione tecnica. FaceSwap , un altro progetto open source, offre invece un’interfaccia leggermente più intuitiva per i principianti.
- L’ app cinese Zao sostituisce i volti nelle scene dei film in pochi secondi. È molto semplice da usare, ma presenta una politica sulla privacy discutibile.
- Reface, DeepSwap e Deepswap.ai sono servizi commerciali basati sul cloud con una guida utente chiara. Consentono di effettuare lo scambio di volti in pochi minuti – a pagamento o tramite abbonamento. In questo caso è opportuno verificare attentamente l’informativa sulla privacy e i termini di utilizzo.
- Per creare un deepfake, raccogliete immagini o video della persona che desiderate utilizzare nel vostro deepfake. Più materiale avete, migliore sarà il risultato.
- Utilizzate il software scelto per isolare e analizzare i volti della persona presenti nelle immagini o nei video. Scegliete un video o un’immagine di destinazione in cui desiderate inserire il volto della persona.
- Con l’aiuto del software potete inserire il volto della persona nel video o nell’immagine di destinazione e regolarlo.
Rischi e norme giuridiche relative ai deepfake
- Esiste infatti anche il rischio, ad esempio, che i deepfake vengano utilizzati per rappresentare qualcuno in una situazione sessualmente esplicita o imbarazzante, il che può essere considerato una violazione della privacy.
- In Germania la protezione dell’immagine personale è garantita dagli articoli 22 e 23 della KunstUrhG (Legge sul diritto d’autore nel settore delle arti), nonché dal diritto generale della personalità di cui agli articoli 1 e 2 della Costituzione. La diffusione di deepfake senza il consenso della persona interessata può essere considerata una violazione dei diritti della personalità, diffamazione o addirittura furto d’identità.
- È particolarmente vietata la manipolazione erotica o politica senza consenso – in questo caso si rischiano conseguenze civili e penali.
- È consentito creare deepfake nell’ambito dell’arte, della satira, della parodia o per scopi giornalistici. In alcuni paesi, come ad esempio l’Austria, si sta tuttavia valutando l’adozione di leggi volte a regolamentare e vietare la creazione e la diffusione dei deepfake. Ciò può tuttavia avere ripercussioni anche sulla libertà di espressione e sulla libertà creativa.
- È importante agire in modo eticamente responsabile nella creazione e nella diffusione dei deepfake e assicurarsi che non vengano utilizzati per danneggiare o pregiudicare altre persone. Ottenete sempre il consenso esplicito delle persone interessate prima di utilizzare il loro volto o la loro voce in un deepfake.
- Inoltre, è necessario assicurarsi che la fonte di un deepfake sia chiaramente indicata per segnalare agli spettatori che si tratta di una rappresentazione manipolata.
- Anche se utilizzate i deepfake a titolo privato o a scopo di intrattenimento: Una chiara indicazione è un requisito etico. Il pubblico dovrebbe poter riconoscere che si tratta di un contenuto generato artificialmente. Ciò protegge non solo la persona coinvolta, ma anche la vostra credibilità – ad esempio nei post sui social media.
- Ormai esistono anche strumenti sufficienti per riconoscere i deepfake. Strumenti come Microsoft Video Authenticator, Deepware Scanner, FakeCatcher di Intel o i filtri basati sull’intelligenza artificiale presenti sui social network analizzano le variazioni dei pixel, i riflessi di luce, il battito delle palpebre e altri indizi di manipolazione digitale. Questi strumenti aiutano a individuare i falsi e promuovono l’alfabetizzazione mediatica nell’era digitale.
