2
Deepfakes jsou počítačem generovaná videa nebo obrázky, které můžete vytvořit za účelem manipulace s lidskými tvářemi nebo hlasy tak, aby působily neuvěřitelně realisticky. Z právního hlediska jsou takové výtvory více než ožehavé.
Vytváření deepfakes: Co přesně můžete pomocí softwaru vytvořit
Deepfakes mohou být zábavné zejména mezi přáteli a mají potenciál stát se memy. Přitom dnes působí úžasně reálně: tváře ve videích pronášejí věty, které daná osoba ve skutečnosti nikdy neřekla, lidé se objevují ve scénách, ve kterých nikdy nebyli. To, co dříve bylo možné jen v Hollywoodu, lze dnes realizovat pomocí volně dostupného softwaru. Ale navzdory veškeré fascinaci: tato technologie není jen mocná – je také z právního a etického hlediska velmi citlivá.
- Deepfake je totiž obrazový, zvukový nebo video materiál upravený pomocí umělé inteligence, ve kterém je jedna osoba nahrazena jinou nebo je simulována tak, že působí klamně skutečně. Zvláště známé jsou deepfaky, u nichž se ve videu používá obličej nebo hlas skutečné osoby, aby se zdálo, že říká nebo dělá určité věci.
- Technika, která za tím stojí, je založena na neuronových sítích, zejména na takzvaných Generative Adversarial Networks (GANs). S těmito nástroji mohou deepfaky vytvářet i technicky zdatní laici. Příkladem jsou DeepFaceLab, FaceSwap nebo aplikace Zao.
- DeepFaceLab je pravděpodobně nejznámějším open-source nástrojem pro deepfaky. Nabízí velkou flexibilitu, ale také komplexní uživatelské rozhraní a je ideální pro zkušené uživatele s technickým vzděláním. FaceSwap jako další open-source projekt naopak nabízí rozhraní, které je o něco přívětivější pro začátečníky.
- Čínská aplikace Zao vymění tváře ve filmových scénách během několika sekund. Její ovládání je velmi jednoduché, má však spornou politiku ochrany osobních údajů.
- Reface, DeepSwap a Deepswap.ai jsou komerční cloudové služby s přehledným uživatelským rozhraním. Umožňují výměnu tváří během několika minut – za poplatek nebo v rámci předplatného. Pečlivě si zde zkontrolujte podmínky ochrany osobních údajů a podmínky použití.
- Chcete-li vytvořit deepfake, shromážděte fotografie nebo videozáznamy osoby, kterou chcete ve svém deepfaku použít. Čím více záznamů budete mít, tím lepší bude výsledek.
- Pomocí vybraného softwaru izolujte a analyzujte tváře dané osoby na záznamech. Vyberte cílové video nebo obrázek, do kterého chcete obličej dané osoby vložit.
- Pomocí softwaru můžete obličej dané osoby vložit do cílového videa nebo obrázku a upravit jej.
Rizika a právní úprava deepfaků
- Existuje totiž například riziko, že deepfaky budou využity k zobrazení někoho v sexuálně explicitní nebo trapné situaci, což lze považovat za porušení soukromí.
- V Německu chrání právo na vlastní podobu podle § 22, 23 KunstUrhG (zákona o autorských právech k uměleckým dílům) a obecné právo na ochranu osobnosti v článcích 1 a 2 Základního zákona. Šíření deepfaků bez souhlasu dotčené osoby může být považováno za porušení osobnostních práv, pomluvu nebo dokonce krádež identity.
- Zejména je zakázána erotická nebo politická manipulace bez souhlasu – v takovém případě hrozí občanskoprávní a trestněprávní důsledky.
- Je povoleno vytvářet deepfaky v umění, satiře, parodii nebo pro žurnalistické účely. V některých zemích, jako je například Rakousko, se však zvažují zákony, které by tvorbu a šíření deepfaků regulovaly a zakazovaly. To však může mít také dopad na svobodu projevu a tvůrčí svobodu.
- Při tvorbě a šíření deepfakeů je důležité jednat eticky a zodpovědně a zajistit, aby nebyly použity k poškození nebo znevýhodnění jiných osob. Vždy si vyžádejte výslovný souhlas dotčených osob, než použijete jejich obličej nebo hlas v deepfaku.
- Dále byste měli dbát na to, aby zdroj deepfaku byl jasně označen a diváci tak věděli, že se jedná o manipulované zobrazení.
- I když deepfaky používáte soukromě nebo pro zábavu: jasné označení je z etického hlediska nezbytné. Publikum by mělo být schopno rozpoznat, že se jedná o uměle vytvořené médium. To chrání nejen vaši protistranu, ale i vaši vlastní důvěryhodnost – například u příspěvků na sociálních sítích.
- V současné době již existuje dostatek prostředků k rozpoznání deepfakeů. Nástroje jako Microsoft Video Authenticator, Deepware Scanner, Intel’s FakeCatcher nebo filtry založené na umělé inteligenci v sociálních sítích analyzují změny pixelů, odrazy světla, mrkání a další náznaky digitální manipulace. Tyto nástroje pomáhají odhalovat padělky a podporují mediální gramotnost v digitálním věku.
