「今は本物のニュースなのか偽物なのか区別できません。選挙の時期にねつ造や扇動に使われるのが怖いですね」
韓国統一地方選挙を控え、生成型人工知能（AI）で精巧に作られた5・18民主化運動関連の偽新聞がSNSで急速に広がり、有権者の混乱が深まっている。
スターバックスコリアの「タンクデー」マーケティング論争をきっかけに、チョン・ドゥファン（全斗煥）元大統領のイメージを合成したり、5・18を嘲笑したりするAI制作動画がSNSで拡散したのに続き、今回は過去の新聞を丸ごと複製したような精巧な虚偽紙面まで登場した。AIを使った歴史歪曲が、選挙局面の新たな変数として浮上している。
最近、オンラインでは、光州日報の題字をかたり、「北朝鮮軍、光州投入」「武器庫奪取」という虚偽内容を盛り込んだAI合成画像が拡散した。この画像は、1980年5月当時の新聞紙面形式をそのまま模倣し、実際の記事のように見えるよう作られていた。
特に偽新聞に記された発行日「1980年5月20日」は、全南毎日新聞・全南日報の記者らが新軍部の言論検閲に抗議して集団で辞職届を提出し、制作を拒否した日と重なり、歴史歪曲をめぐる論争はさらに大きくなった。
これを受け、5・18記念財団と光州日報は共同で、5・18特別法違反、情報通信網法上の名誉毀損、業務妨害などの疑いで、光州警察庁に告訴状を提出した。
こうしたAI虚偽情報をめぐり、有権者の間でも懸念の声が高まっている。
釜山在住の会社員男性（33）は「当時の世代ではないので、過去の新聞がどのような形だったのか詳しくは知らないが、テレビやオンラインに出回る過去資料と似ていて、疑わずに受け入れ、十分だまされそうだ。選挙が目前なので、候補者の計画を広報する内容ではなく、相手を中傷する内容はまず疑うようになる」と話した。
ソウル松坡区在住の会社員女性（32）は「大人の立場では、あり得ない偽ニュースだと分かるが、10代の青少年は十分混乱し、扇動される可能性がある。AIの発展で偽ニュースの質が非常に高くなり、別途の事実確認が必要になりそうだ」と懸念した。
警察は本格的な捜査に着手した。
警察庁国家捜査本部は、SNSなどで「5・18特別法」に違反する虚偽事実を流布した37アカウントについて、立件前調査に入った。5月22日以降、現在まで問題のある投稿240件について、削除・遮断もプラットフォーム側に要請している。
光州日報の通報を受けて捜査に入った光州警察庁サイバー犯罪捜査隊は、虚偽画像を投稿した50代女性を5・18民主化運動法、名誉毀損、業務妨害などの疑いで立件した。警察は携帯電話など押収物の分析を通じ、女性が虚偽新聞画像の最初の制作者なのか、共犯がいるのかなどを調べている。
女性は「誰かが投稿した写真を持ってきた。コメントの反応が気になって投稿した」という趣旨で供述したとされる。
現行の5・18特別法は、虚偽事実を流布した場合、5年以下の懲役に処すると重く規定しており、処罰規定自体は明確だ。ただ、拡散者の相当数が10代、20代で、SNS上の遊び文化のようにコンテンツを広げるケースが多く、法的な警戒心なしにした行為をどの水準で処罰するか、捜査機関の悩みは深まっている。
捜査機関は「故意性の立証」と「最初の制作者の追跡」に困難を抱えている。
今回の事件の告訴を代理したチョン・ダウン弁護士は「メタのプラットフォームはAIで制作されたコンテンツに自動でひし形のウォーターマークを付けるシステムを備えており、この事件の画像にも該当表示があった。これを根拠に拡散者の故意性を主張している」と明らかにした。
また、「ねつ造だという」「ねつ造なのか見てみよう」という留保的な表現についても、大法院（最高裁）の判例上、全体の趣旨が虚偽事実の伝播に該当すれば処罰を避けにくいとの主張だ。
専門家は、生成型AI技術の発展速度に現行法・制度が追いついていないと指摘する。
韓世大学IT学部融合保安学科のソン・ボンギュ教授は「最初の制作者を追跡するには、海外プラットフォームの協力と国際共助が不可欠だが、時間がかかる。ウォーターマーク情報自体を削除・改変するAIも登場しており、技術的な追跡にも限界がある」と述べた。
韓国の捜査機関がグーグル、メタ、Xなど海外IT企業にアカウント情報や削除を要請しても、実質的な履行を期待するのは難しいのが現実だ。米国のビッグテック企業は、自国の「通信品位法（CDA）230条」に基づき、第三者が投稿したコンテンツについて免責を保障されており、これを「表現の自由」という憲法的価値で防御しているためだ。
ソウル女子大学情報保護学科のキム・ミョンジュ教授は「選挙運動の締め切り直前にAI偽ニュースが拡散すれば、反論する時間すらなく、選挙結果が覆っても取り返す方法がない。技術的なウォーターマーク削除AIまで登場した状況で、法と規制だけでは限界が明確だ。結局、市民が自ら批判的なフィルタリングを働かせる市民倫理の向上こそが、選挙戦でのAI工作を防ぐ最後の防御壁だ」と警告した。
(c)NEWSIS