ディープフェイクによる人工知能を利用した画像や映像の技術は、今や証明書の顔写真一つからでも動画を作成できてしまいます。
2024年5月ごろから、韓国ではディープフェイクによって知人や親族をわいせつ動画に合成するディープフェイクポルノが爆発的に広がっており、社会問題になっています。大学生たちがSNSで投稿された知人女性の写真や卒業写真などからディープフェイクを用いてわいせつ動画を作成し、チャットツール上で公開していたことが発端となり発覚。同様の不法なチャットルームが相次いで作成されている状況とのことです。
ディープフェイク（deepfake）とは「深層学習」と「偽物」を組み合わせた造語で、人工知能（AI）を用いた画像、映像、音声の合成技術や生成技術を指します。AIベースの合成ツールを使えば特別な技術は不要で、写真をアップロードするだけで偽物の画像や動画が作れてしまうのです。
日本でも同級生による盗撮被害の報告などが相次ぐ中、韓国で急増している「知人をターゲットにしたディープフェイク性被害」は対岸の火事ではありません。
韓国ではサイバー性犯罪の取り締まりの強化も進められている中で、日本国内や個々人で可能な対策は何なのかを、現状をもとに考えてみましょう。
容疑者の70%以上が10代。
チャットツールで拡散される性加害
韓国で起きているディープフェイクポルノは、「LINE」や「Messenger」のようなコミュニケーションツール「テレグラム（Telegram）」を介して広がっています。とあるテレグラム内のチャットルームでは、画像を投稿後わずか5秒後にはディープフェイクによる女性の裸体画像が生成されます。入場後すぐに「今すぐ好きな女性の写真を送ってください」という内容のメッセージが表示され、画像の生成過程では特定の身体の部位を調整する機能も調整されており、性的搾取のためのチャンネルであることは明白です。
チャンネルの利用者は8月21日時点で22万7,000人。テレグラム内にあるチャットルームには検索から容易にアクセスできるため、若者を中心に加害者も被害者も爆発的に増加している様子です。
韓国の警察庁の調べによると、2023年のディープフェイクによる虚偽映像物犯罪容疑者の75.8％が10代で、20代の容疑者は20％。つまり、10代と20代を合わせて95.8％にのぼるといいます。デジタル技術を身に着けている若年世代が、犯罪の認識がなく軽い遊びや小遣い稼ぎを目的として手を染める人が急増しているため、未成年の性犯罪への罰則強化だけにとどまらず、デジタル倫理観や教育といった側面でも啓蒙が急務だといわれています。
こういったポルノ画像生成チャットルームの中には、小中高大学名が記載された個別のチャットルームも多数存在し、「韓国で有名な学校名であれば全て出てくる」とも言われている様子です。さらに生成した画像からのいじめや校内暴力への発展、教師の画像を使用した虚偽映像の作成、作成した画像をもとに被害者や知人へ電話や文字メッセージで脅迫・嘲弄を行うなど…悪用の幅は計り知れない状況のようです。
テレグラムは韓国外にサーバーがあるため容疑者の特定が難しく、韓国の仁川（インチョン）にある仁荷大学校（インハ大）で発生した、学内被害者が20人にも及ぶディープフェイク性搾取物事件でも、被害者が1年余りテレグラムのチャットに入って自ら証拠を集めてから被害を訴え、ようやく立件にたどり着きました。しかし、立件された2名はうち1人の仁荷大男子学生は「写真を見ただけ」と主張。韓国の現行法上では、ディープフェイク搾取物は流布目的がなければ制作しても視聴しても罪ではないため、釈放されました。
韓国では処罰強化の声が挙がっており、韓国の尹錫悦（ユン・ソンニョル）大統領も、国務会議の冒頭発言で「ディープフェイク映像物は匿名の保護膜に寄りかかり、技術を悪用する明白な犯罪行為」と宣言し「徹底した実態把握と捜査でデジタル性犯罪を根絶してほしい」という意向を示しているようです。
日本でのディープフェイクに関する法規制
2020年10月、アダルト動画の出演者の顔を女性芸能人の顔にすり替えた日本のディープフェイクポルノ事件では、自身の運営するウェブサイトに掲載したとされる男性3名が名誉毀損の疑いで逮捕されました。
日本でのディープフェイクポルノの作成・公開行為には、「名誉毀損」「著作権法違反」「わいせつ物頒布」などの罪が成立する可能性があります。
名誉毀損
2020年の事件では被害者は女性芸能人でしたが、すり替えた顔が一般人であっても同様に、当該人物の名誉を棄損することになり、名誉棄損罪が成立する可能性があります。
- 名誉毀損罪の刑罰は、3年以下の懲役もしくは禁錮または50万円以下の罰金です（刑法第230条）
著作権法違反
既存のポルノ作品を、その著作権者の承諾を得ずに無断利用し、さらにディープフェイクで別人の顔を合成してすり替えた場合には、著作物である同作品（この場合、ポルノ作品）を改変しているため、著作権侵害および著作者人格権侵害権に当たる可能性があります。
- 著作権侵害の刑罰は、10年以下の懲役もしくは1000万円以下の罰金、またはこれらの併科（懲役・罰金の両方）です（著作権法第119条第1項）
- 著作者人格権侵害の刑罰は、5年以下の懲役もしくは500万円以下の罰金、またはこれらの併科（懲役・罰金の両方）です（著作権法第119条第2項1号）
わいせつ物頒布（わいせつ電磁的記録媒体頒布）
そもそも、わいせつ物（猥褻物）とは、「その内容がいたずらに性欲を興奮又は刺激せしめ、かつ、普通人の正常な性的羞恥心を害し、善良な性的道義観念に反する」ものと判示されています。（最高裁判所 昭和32年3月13日判決・刑集 第11巻3号997頁）。ディープフェイクによるポルノであっても、インターネット上で公開する行為は、わいせつ物頒布罪（わいせつ電磁的記録媒体頒布罪）に当たる可能性があります。
- わいせつ物頒布（わいせつ電磁的記録媒体頒布）の刑罰は、2年以下の懲役もしくは250万円以下の罰金、またはこれらの併科（懲役・罰金の両方）です（刑法第175条第1項）
現状では犯罪が成立しにくいケース
一方、現状では犯罪が成立しにくいケースも知っておきましょう。
所持・閲覧をしただけ
韓国の仁荷大で発生したディープフェイク性搾取物事件のように、現在の日本でもディープフェイクポルノの作成・シェアには関わらず、「見ただけ」という場合での立件は難しいようです。
ただし、イギリスではディープフェイクによる画像や動画を作成・シェアするかどうかは関係なく、たとえひとりで隠し持っていてシェアしていなくても、犯罪として処罰されます。イギリスのような厳しい規制が適用される場合、たとえば「知り合いのディープフェイクポルノが回ってきたため、画像・動画がスマートフォンに保存してある」という状況でも取り締まりが可能になるかもしれません。
ディープフェイクによる性犯罪が増えている昨今、世界的に取り締まりが強化される可能性もあるでしょう。
容疑者が未成年者の場合
前述のとおり、韓国では虚偽映像物犯罪の被疑者の70%以上が10代、20代も含めると90%以上です。もし日本が同じ状況であった場合、一番のネックとなるのは少年法かもしれません。名誉毀損で訴える場合、刑事と民事の2つの方法があります。現在、加害者が未成年者の場合は少年法が適用され、刑事では成人と同じ罪に問うことができません。
刑事での名誉毀損の罰則は「3年以下の懲役もしくは禁錮」「50万円以下の罰金」ですが、少年法が適用された場合は、家庭裁判所で審判されたのち、保護観察または少年院への送致などの処分がなされます。
民事事件では、名誉毀損による損害賠償請求となりますが、もし罪が認められるとおおよそ50～100万円の慰謝料の支払いが加害者に命じられるのが一般的です。民事の場合には未成年の加害者でも、本人の支払い能力が慰謝料額を決める手立てにはならないと考えられ、成人に対するものと同じ判断が下されることが多いようです。
参考：アークレスト法律相談事務所「未成年による名誉毀損を訴えることは可能？被害者が取るべき対応を解説」
しかし、少年法によって加害者に「公正の余地あり」と判断されたとしても、あるいは加害者が成人で刑法が適用された場合でも、何の罪もない被害者がネットの海にポルノをばら撒かれたという「デジタルタトゥー」を完全に消すことは難しいでしょう。
また、デジタル技術に強い若年世代が増えるほど、デジタル犯罪は低年齢化していく可能性があります。インターネットにまつわる罰則は、時代に合わせた見直しが必要なのではないでしょうか。
まとめ
韓国ではサイバー性暴行捜査チームによって、ディープフェイクによる性犯罪の集中取り締まりが始まり、学校担当警察官と呼ばれる、各校に配備されている校内暴力やトラブルに対応する専門調査官とタッグを組んで本件に取り組み始めているとのことです。
また、SNSを通して国内外に向けて注意喚起がなされており、韓国の女性たちの間では、SNSにアップロードしていたセルフィー（自撮り）を削除し始めるといった動きもあるようです。
技術の発展スピードにモラルや規制が追いついていない中で、顔写真や個人情報をインターネットにアップする危険性について慎重に考える必要があるでしょう。
