Deepfakes jsou počítačem generovaná videa nebo obrázky, které můžete vytvořit tak, aby manipulovaly lidskými tvářemi nebo hlasy tak, že vypadají k nerozeznání od reality. Z právního hlediska jsou takové výtvory více než sporné.
Vytváření deepfakes: Co přesně můžete vytvořit pomocí softwaru
Deepfakes mohou být zábavné zejména mezi přáteli a mají potenciál stát se memy. Dnes vypadají neuvěřitelně skutečně: tváře ve videích vyslovují věty, které skutečná osoba nikdy neřekla, osoby se objevují ve scénách, ve kterých nikdy nebyly. To, co bylo dříve možné jen v Hollywoodu, lze dnes realizovat pomocí volně dostupného softwaru. Ale přes veškerou fascinaci: tato technologie není jen mocná – je také právně a eticky velmi citlivá.
- Deepfake je obrazový, zvukový nebo videomateriál manipulovaný pomocí umělé inteligence, ve kterém je jedna osoba nahrazena jinou nebo je simulována tak, že je k nerozeznutí od skutečné osoby. Obzvláště známé jsou deepfakes, ve kterých je tvář nebo hlas skutečné osoby použita ve videu, aby zdánlivě říkala nebo dělala určité věci.
- Technologie, která za tím stojí, je založena na neuronových sítích, zejména na takzvaných generativních adversariálních sítích (GAN). S těmito nástroji mohou deepfakes vytvářet i technicky nezkušení laici. Příkladem jsou DeepFaceLab, FaceSwap nebo aplikace Zao.
- DeepFaceLab je pravděpodobně nejznámější open-source nástroj pro deepfakes. Nabízí velkou flexibilitu, ale také komplexní uživatelské rozhraní a je ideální pro zkušené uživatele s technickým vzděláním. FaceSwap, další open-source projekt, nabízí naopak poněkud uživatelsky přívětivější rozhraní.
- Čínská aplikace Zao vymění tváře ve filmových scénách během několika sekund. Je velmi snadná na používání, má však spornou politiku ochrany osobních údajů.
- Reface, DeepSwap a Deepswap.ai jsou komerční cloudové služby s jasným uživatelským rozhraním. Umožňují výměnu tváří během několika minut – za poplatek nebo v rámci předplatného. Pečlivě si prostudujte podmínky ochrany osobních údajů a podmínky používání.
- Chcete-li vytvořit deepfake, shromážděte fotografie nebo videozáznamy osoby, kterou chcete v deepfake použít. Čím více záznamů máte, tím lepší bude výsledek.
- Pomocí vybraného softwaru izolujte a analyzujte tváře osoby na záznamech. Vyberte cílové video nebo obrázek, do kterého chcete vložit obličej dané osoby.
- Pomocí softwaru můžete vložit obličej dané osoby do cílového videa nebo obrázku a upravit jej.
Nebezpečí a právní předpisy týkající se deepfakes
Deepfakes mohou být zábavnou hříčkou pro soukromé účely, ale bohužel mohou také sloužit k šíření nepravdivých nebo zavádějících informací, známých jako fake news. To může vést nejen k pomluvám, ale také k politické manipulaci. Právní situace týkající se deepfakeů se proto po celém světě stále zpřísňuje. V mnoha zemích, včetně Německa, byla přijata zvláštní opatření k omezení porušování osobnostních práv, kyberšikany a politické dezinformace.
- Existuje například také nebezpečí, že deepfakes budou použity k zobrazení někoho v sexuálně explicitní nebo trapné situaci, což může být považováno za porušení soukromí.
- V Německu je právo na vlastní obraz chráněno § 22, 23 KunstUrhG (zákon o autorském právu) a obecné právo na ochranu osobnosti v článcích 1 a 2 Základního zákona. Šíření deepfakes bez souhlasu dotčené osoby může být považováno za porušení osobnostních práv, pomluvu nebo dokonce krádež identity.
- Zvláště zakázána je erotická nebo politická manipulace bez souhlasu – v tomto případě hrozí občanskoprávní a trestněprávní důsledky.
- Je povoleno vytvářet deepfake v umění, satirických nebo parodických dílech nebo pro novinářské účely. V některých zemích, například v Rakousku, se však zvažují zákony, které by tvorbu a šíření deepfake regulovaly a zakázaly. To by však mohlo mít dopad na svobodu projevu a tvůrčí svobodu.
- Při vytváření a šíření deepfakeů je důležité jednat eticky a zajistit, aby nebyly použity k poškození nebo ohrožení jiných osob. Před použitím tváře nebo hlasu dotčené osoby v deepfaku vždy získejte její výslovný souhlas.
- Kromě toho byste měli dbát na to, aby byl zdroj deepfaku jasně označen, aby diváci věděli, že se jedná o manipulovanou prezentaci.
- I když deepfaky používáte soukromě nebo pro zábavu, jasné označení je eticky nutné. Publikum by mělo být schopno rozpoznat, že se jedná o uměle vytvořené médium. To chrání nejen vaše protějšky, ale také vaši vlastní důvěryhodnost – například v příspěvcích na sociálních médiích.
- V současné době existuje také dostatek prostředků k rozpoznání deepfakes. Nástroje jako Microsoft Video Authenticator, Deepware Scanner, Intel’s FakeCatcher nebo filtry založené na umělé inteligenci v sociálních sítích analyzují změny pixelů, odrazy světla, mrkání a další známky digitální manipulace. Tyto nástroje pomáhají odhalit padělky a podporují mediální gramotnost v digitálním věku.
