3
ディープフェイクとは、人間の顔や声を、まるで本物のように見えるように操作するために作成できる、コンピューター生成の動画や画像のことです。法的な観点から見ると、こうした作品は極めてデリケートな問題です。
ディープフェイクの作成:ソフトウェアで具体的に何ができるのか
ディープフェイクは、特に友人同士の間では面白がられることがあり、ミームになる可能性も秘めています。その一方で、今日のディープフェイクは驚くほど本物らしく見えます。動画の中で顔が、実在の人物が決して口にしたことのない台詞を話したり、その人物が実際にいたことのない場面に登場したりします。かつてはハリウッドでしか実現できなかったことが、今では誰でも入手できるソフトウェアで実現可能になっています。しかし、その魅力の一方で、この技術は強力であるだけでなく、法的・倫理的にも極めてデリケートな問題を抱えています。
- ディープフェイクとは、AIによって操作された画像、音声、または動画素材のことで、ある人物が別の人物に置き換えられたり、驚くほど本物そっくりにシミュレートされたりしたものです。特に有名なのは、実在する人物の顔や声を動画に用いて、その人物があたかも何かを言ったり行ったりしているかのように見せかけるディープフェイクです。
- その背後にある技術はニューラルネットワーク、とりわけいわゆる 生成対抗ネットワーク(GAN)に基づいています。これらのツールを使えば、技術に詳しい一般人でもディープフェイクを作成できます。その例としては、DeepFaceLab、FaceSwap、あるいはアプリ「Zao」などが挙げられます。
- DeepFaceLabは、おそらくディープフェイク用のオープンソースツールの中で最も有名なものです。高い柔軟性を備えている反面、ユーザーインターフェースは複雑であり、技術的な知識を持つ経験豊富なユーザーに最適です。一方、もう一つのオープンソースプロジェクトである「FaceSwap」は、初心者にもやや使いやすいインターフェースを提供しています。
- 中国のアプリ「Zao」は、映画のシーンに登場する顔を数秒で入れ替えることができます。操作は非常に簡単ですが、プライバシーポリシーには疑問が残ります。
- Reface、DeepSwap、Deepswap.ai は、明確なユーザーガイドを備えた商用クラウドベースのサービスです。これらは、有料またはサブスクリプション制で、数分以内に顔の入れ替えを可能にします。プライバシーポリシーや利用規約は慎重に確認する必要があります。
- ディープフェイクを作成するには、ディープフェイクに使用したい人物の写真や動画を収集します。素材が多ければ多いほど、仕上がりは良くなります。
- 選択したソフトウェアを使用して、素材内の人物の顔を抽出して分析します。その人物の顔を合成したい対象の動画または画像を選択します。
- ソフトウェアを使用して、対象の動画や画像にその人物の顔を合成し、調整することができます。
ディープフェイクの危険性と法的規制
- 例えば、ディープフェイクが、誰かを性的に露骨な状況や恥ずかしい状況に描くために利用される危険性もあり、これはプライバシーの侵害とみなされる可能性があります。
- ドイツでは、肖像権が芸術著作権法(KunstUrhG)第22条および第23条により保護されており、さらに基本法第1条および第2条に定める一般的な人格権も保護されています。本人の同意なしにディープフェイクを拡散することは、人格権の侵害、名誉毀損、さらにはなりすましとみなされる可能性があります。
- 特に 禁止 されているのは、 同意のないエロティックまたは政治的な操作 であり、これには民事上および刑事上の責任が問われる恐れがあります。
- 芸術、風刺、パロディ、あるいはジャーナリズムの目的でディープフェイクを作成することは許可されています。 しかし、オーストリアなどの一部の国では、ディープフェイクの作成や拡散を規制・禁止する法律の制定が検討されています。ただし、これは表現の自由や創造の自由にも影響を及ぼす可能性があります。
- ディープフェイクの作成および拡散にあたっては、倫理的に責任ある行動をとり、他者を傷つけたり不利益を与えたりするために使用されないよう確保することが重要です。ディープフェイクに他者の顔や声を組み込む前には、必ず当該人物からの明示的な同意 を得てください。
- また、ディープフェイクの出典を明確に表示 し、視聴者にそれが改変された映像であることを知らせるよう注意すべきです。
- たとえ個人的な用途や娯楽目的でディープフェイクを利用する場合であっても: 明確な表示 は倫理的に求められます。視聴者は、それが人工的に生成されたメディアであることを認識できる必要があります。これは、相手を守るだけでなく、ソーシャルメディアへの投稿などにおいて、あなた自身の信頼性も守ることに繋がります。
- 現在では、ディープフェイクを検知するための手段も十分に存在します。Microsoft Video Authenticator、Deepware Scanner、IntelのFakeCatcherといったツールや、ソーシャルネットワーク上のAIベースのフィルターは、ピクセルの変化、光の反射、まばたきの様子など、デジタル加工の兆候を分析します。これらのツールは偽造を見分けるのに役立ち、デジタル時代におけるメディアリテラシーの向上にも寄与します。
