3
Les deepfakes sont des vidéos ou des images générées par ordinateur que vous pouvez créer pour manipuler des visages ou des voix humaines de manière à ce qu’ils semblent d’un réalisme trompeur. D’un point de vue juridique, ces créations sont plus que délicates.
Créer des deepfakes : ce que vous pouvez créer exactement avec un logiciel
Les deepfakes peuvent surtout être amusants entre amis et ont un potentiel de mème. Aujourd’hui, ils semblent d’un réalisme saisissant : dans des vidéos, des visages prononcent des phrases que la personne réelle n’a jamais dites, des personnes apparaissent dans des scènes où elles n’ont jamais été. Ce qui n’était autrefois possible qu’à Hollywood peut aujourd’hui être réalisé à l’aide de logiciels librement accessibles. Mais malgré toute la fascination qu’elle suscite, cette technologie n’est pas seulement puissante : elle est également extrêmement sensible sur le plan juridique et éthique.
- Un deepfake est en effet un contenu image, audio ou vidéo manipulé par l’IA, dans lequel une personne est remplacée par une autre ou simulée de manière trompeusement réaliste. Les deepfakes les plus connus sont ceux où le visage ou la voix d’une personne réelle est utilisé dans une vidéo pour lui faire dire ou faire apparemment des choses.
- La technique sous-jacente repose sur des réseaux neuronaux, notamment ce qu’on appelle les réseaux antagonistes génératifs (GAN). Grâce à ces outils, même des amateurs dotés de compétences techniques peuvent créer des deepfakes. On peut citer par exemple DeepFaceLab, FaceSwap ou l’application Zao.
- DeepFaceLab est sans doute l’outil open source le plus connu pour les deepfakes. Il offre une grande flexibilité, mais présente également une interface utilisateur complexe ; il est donc idéal pour les utilisateurs expérimentés ayant des connaissances techniques. FaceSwap , un autre projet open source, propose en revanche une interface un peu plus accessible aux débutants.
- L’ application chinoise Zao permet de remplacer des visages dans des scènes de films en quelques secondes. Elle est très simple à utiliser, mais sa politique de confidentialité est discutable.
- Reface, DeepSwap et Deepswap.ai sont des services commerciaux basés sur le cloud, dotés d’un guidage utilisateur clair. Ils permettent d’effectuer des échanges de visages en quelques minutes – moyennant un paiement ou un abonnement. Il est recommandé de vérifier attentivement les conditions de confidentialité et d’utilisation de ces services.
- Pour créer un deepfake, rassemblez des photos ou des vidéos de la personne que vous souhaitez utiliser dans votre deepfake. Plus vous disposez de documents, meilleur sera le résultat.
- Utilisez le logiciel choisi pour isoler et analyser les visages de la personne sur ces documents. Sélectionnez une vidéo ou une image cible dans laquelle vous souhaitez insérer le visage de la personne.
- À l’aide du logiciel, vous pouvez insérer le visage de la personne dans la vidéo ou l’image cible et l’ajuster.
Risques et dispositions légales liés aux deepfakes
- En effet, il existe par exemple le risque que les deepfakes soient utilisés pour représenter une personne dans une situation sexuellement explicite ou embarrassante, ce qui peut être considéré comme une atteinte à la vie privée.
- En Allemagne, le droit à l’image est protégé par les articles 22 et 23 de la loi sur le droit d’auteur (KunstUrhG), ainsi que par le droit général à la vie privée prévu aux articles 1 et 2 de la Loi fondamentale. La diffusion de deepfakes sans le consentement de la personne concernée peut être considérée comme une atteinte aux droits de la personnalité, une diffamation, voire un usurpation d’identité.
- Il est notamment interdit de procéder à une manipulation à caractère érotique ou politique sans consentement – cela peut entraîner des poursuites civiles et pénales.
- Il est autorisé de créer des deepfakes à des fins artistiques, satiriques, parodiques ou journalistiques. Dans certains pays, comme l’Autriche par exemple, des lois sont toutefois à l’étude pour réglementer et interdire la création et la diffusion de deepfakes. Cela peut toutefois avoir des répercussions sur la liberté d’expression et la liberté créative.
- Il est important d’agir de manière éthiquement responsable lors de la création et de la diffusion de deepfakes et de veiller à ce qu’ils ne soient pas utilisés pour nuire ou porter préjudice à d’autres personnes. Obtenez toujours le consentement explicite des personnes concernées avant d’utiliser leur visage ou leur voix dans un deepfake.
- Veillez également à ce que la source d’un deepfake soit clairement indiquée afin d’alerter les spectateurs sur le fait qu’il s’agit d’une représentation manipulée.
- Même si vous utilisez des deepfakes à titre privé ou à des fins de divertissement : un marquage clair est une obligation éthique. Le public doit pouvoir reconnaître qu’il s’agit d’un média généré artificiellement. Cela protège non seulement votre interlocuteur, mais aussi votre propre crédibilité – notamment dans le cadre de publications sur les réseaux sociaux.
- Il existe désormais suffisamment de moyens pour détecter les deepfakes. Des outils tels que Microsoft Video Authenticator, Deepware Scanner, FakeCatcher d’Intel ou les filtres basés sur l’IA utilisés sur les réseaux sociaux analysent les modifications de pixels, les reflets de lumière, les clignements des yeux et d’autres indices de manipulation numérique. Ces outils aident à détecter les falsifications et favorisent l’éducation aux médias à l’ère numérique.
