AI技術の普及により“ディープフェイク時代”が現実のものとなる中、韓国で教育現場と選挙戦が大きな影響を受けている。学校では卒業アルバムから教師の写真が姿を消し、政治の世界では本物そっくりの候補者の偽映像が拡散されている。警察は厳格な対応を表明しているが、非対面・匿名で容易に拡散されるディープフェイクの特性上、捜査は困難を極めている。
警察庁国家捜査本部によると、昨年8月28日から今年3月31日までの約7カ月間に実施したディープフェイク性犯罪の集中取り締まりで、1429件の犯罪が摘発され、963人を検挙、うち59人を拘束した。そのうち10～20代が全体の93.1％を占めている。
これは集中取り締まり前の2024年1月～8月の検挙者267人（うち拘束8人）と比べて、260％以上の急増だ。年齢別では、10代が669人（うち触法少年72人）、20代が228人と、若年層が圧倒的多数を占めた。
このような現実に、教員や学生の間では「プロフィール写真削除」「卒業アルバム拒否」などの対策が取られるようになった。ある学校では卒業アルバムに教師の顔が一切掲載されず、「ディープフェイク犯罪への警告」文が添えられることもあった。
韓国教員団体総連合会が昨年10月に実施した調査では、回答者の93.1％が「卒業アルバムの写真がディープフェイクなどに悪用される懸念がある」と答えた。全国の幼稚園～高校の教員3537人を対象にオンラインで実施された。
卒業アルバムに「教職員の写真をどこまで掲載すべきか」という問いには、49.8％が「希望者のみ」、38.7％が「全員掲載すべきでない」と回答。67.2％は「卒業アルバムそのものを制作すべきでない」と答えた。
ディープフェイク犯罪の主な舞台は、依然としてTelegramだ。海外にサーバーを置くTelegramは、捜査協力に消極的で、「私的なチャットルーム」であることから「N番部屋防止法」の適用も逃れてきた。
警察はこうした背景を受け、Telegram本社に対する初の内偵捜査を開始し、偽装捜査（潜入捜査）の拡充に力を入れてきた。
その結果、2024年10月以降、Telegram側との協力体制が構築され、今年1月にはTelegram経由の犯罪捜査として初めて「自警団」事件の主犯キム・ノクワン容疑者（33）の検挙に成功。Telegramから犯罪データを正式に提供された初のケースとなった。
ただ、AI技術の一般化により、誰でも容易にディープフェイク動画を制作・拡散できる現在、その根本的な対応は依然として困難だ。
警察は6月4日に施行される「性暴力処罰法」の改正により、被害者が成人であってもディープフェイクに対する“偽装捜査”が可能になる点を活用し、捜査に乗り出す構えだ。
6月3日の大統領選挙を控え、ディープフェイク問題は政治の世界にも波紋を広げている。真偽の判別が難しい候補者の偽動画が拡散し、名誉毀損や虚偽情報流布が相次いでいる。
例えば、囚人服姿のイ・ジェミョン候補（共に民主党）、カツラを自ら外すハン・ドンフン候補（国民の力）など、現実では起きていない行為を映したディープフェイク映像がSNS上に拡散されている。
警察はこれまで自前で開発したディープフェイク検出ソフトを使って対応してきた。映像・画像については90％以上の精度で偽造判定が可能だというが、音声分析には弱く、法的証拠としての限界があった。
このため、警察は自らの限界を認め、国立科学捜査研究院（国科捜）が開発したAI分析ソフトウェアを用いた専門鑑定に切り替える方針を明らかにした。
国科捜は韓国電子技術研究院（KETI）と共同で、AIによる音声・映像分析が可能なディープフェイク検出システムの試作品を開発。中央選挙管理委員会では先月9日からこのソフトを活用し、特別対応チームを運営している。
警察庁は先月24日、国科捜から「専門鑑定書の発行が可能」との回答を得ており、大統領選に向けた迅速な対応体制を構築中だ。
イ・ホヨン警察庁長官代行は4月28日の定例会見で「大統領選を1カ月後に控え、万全の準備を進めている。ディープフェイクなどによる虚偽情報の拡散、重大な選挙犯罪には厳正に対応する」と強調した。
(c)news1
