Les deepfakes sont des vidéos ou des images générées par ordinateur que vous pouvez créer pour manipuler des visages ou des voix humains de manière à ce qu’ils semblent authentiques. D’un point de vue juridique, ces créations sont plus que délicates.
Créer des deepfakes : ce que vous pouvez créer exactement avec un logiciel
Les deepfakes peuvent être amusants, surtout entre amis, et ont un fort potentiel viral. Aujourd’hui, ils sont d’un réalisme saisissant : des visages prononcent dans des vidéos des phrases que la personne réelle n’a jamais dites, des personnes apparaissent dans des scènes où elles n’ont jamais été. Ce qui n’était autrefois possible qu’à Hollywood peut aujourd’hui être réalisé à l’aide de logiciels librement accessibles. Mais malgré toute la fascination qu’elle suscite, cette technologie n’est pas seulement puissante, elle est également très sensible sur le plan juridique et éthique.
- Un deepfake est une image, un fichier audio ou vidéo manipulé par l’IA, dans lequel une personne est remplacée par une autre ou simulée de manière trompeusement réelle. Les deepfakes les plus connus sont ceux qui utilisent le visage ou la voix d’une personne réelle dans une vidéo pour lui faire dire ou faire des choses.
- La technologie sous-jacente repose sur des réseaux neuronaux, en particulier les réseaux antagonistes génératifs (GAN). Ces outils permettent même à des profanes techniquement avertis de créer des deepfakes. DeepFaceLab, FaceSwap ou l’application Zao en sont quelques exemples.
- DeepFaceLab est sans doute l’outil open source le plus connu pour créer des deepfakes. Il offre une grande flexibilité, mais aussi une interface utilisateur complexe et est idéal pour les utilisateurs expérimentés ayant des connaissances techniques. FaceSwap, un autre projet open source, offre quant à lui une interface un peu plus conviviale pour les débutants.
- L’application chinoise Zao permet d’échanger des visages dans des scènes de films en quelques secondes. Elle est très facile à utiliser, mais sa politique de confidentialité est discutable.
- Reface, DeepSwap et Deepswap.ai sont des services commerciaux basés sur le cloud avec une interface utilisateur claire. Ils permettent d’échanger des visages en quelques minutes, moyennant un paiement ou un abonnement. Veuillez lire attentivement les conditions d’utilisation et de confidentialité.
- Pour créer un deepfake, rassemblez des photos ou des vidéos de la personne que vous souhaitez utiliser dans votre deepfake. Plus vous aurez d’images, meilleur sera le résultat.
- Utilisez le logiciel sélectionné pour isoler et analyser les visages de la personne dans les images. Sélectionnez une vidéo ou une image cible dans laquelle vous souhaitez insérer le visage de la personne.
- À l’aide du logiciel, vous pouvez insérer le visage de la personne dans la vidéo ou l’image cible et l’ajuster.
Dangers et réglementations légales des deepfakes
Les deepfakes peuvent être amusants à des fins privées, mais ils peuvent malheureusement aussi servir à diffuser des informations fausses ou trompeuses, connues sous le nom de fake news. Cela peut non seulement conduire à la diffamation, mais aussi à des manipulations politiques. La situation juridique relative aux deepfakes devient donc de plus en plus stricte dans le monde entier. De nombreux pays, dont l’Allemagne, ont adopté des réglementations spéciales afin de limiter les atteintes aux droits de la personnalité, le cyberharcèlement et la désinformation politique.
- En effet, il existe également un risque que les deepfakes soient utilisés pour représenter une personne dans une situation sexuellement explicite ou embarrassante, ce qui peut être considéré comme une atteinte à la vie privée.
- En Allemagne, le droit à l’image est protégé par les articles 22 et 23 de la loi sur le droit d’auteur (KunstUrhG) ainsi que par le droit général à la personnalité garanti par les articles 1 et 2 de la Loi fondamentale. La diffusion de deepfakes sans le consentement de la personne concernée peut être considérée comme une atteinte aux droits de la personnalité, une diffamation ou même une usurpation d’identité.
- La manipulation à des fins érotiques ou politiques sans consentement est particulièrement interdite et peut entraîner des poursuites civiles et pénales.
- Il est permis de créer des deepfakes à des fins artistiques, satiriques, parodiques ou journalistiques. Dans certains pays, comme l’Autriche, des lois sont toutefois envisagées pour réglementer et interdire la création et la diffusion de deepfakes. Cela pourrait toutefois avoir des répercussions sur la liberté d’expression et la liberté créative.
- Il est important d’agir de manière éthiquement responsable lors de la création et de la diffusion de deepfakes et de veiller à ce qu’ils ne soient pas utilisés pour nuire ou porter préjudice à d’autres personnes. Obtenez toujours le consentement explicite des personnes concernées avant d’utiliser leur visage ou leur voix dans un deepfake.
- Vous devez également veiller à ce que la source d’un deepfake soit clairement indiquée afin d’informer les spectateurs qu’il s’agit d’une représentation manipulée.
- Même si vous utilisez des deepfakes à des fins privées ou de divertissement, une indication claire est nécessaire d’un point de vue éthique. Le public doit pouvoir reconnaître qu’il s’agit d’un média généré artificiellement. Cela protège non seulement votre interlocuteur, mais aussi votre propre crédibilité, par exemple dans les publications sur les réseaux sociaux.
- Il existe désormais suffisamment de moyens pour détecter les deepfakes. Des outils tels que Microsoft Video Authenticator, Deepware Scanner, FakeCatcher d’Intel ou des filtres basés sur l’IA dans les réseaux sociaux analysent les changements de pixels, les reflets lumineux, les clignements des yeux et d’autres indices de manipulation numérique. Ces outils aident à détecter les contrefaçons et favorisent la compétence médiatique à l’ère numérique.
