韓国政府は6月3日に投開票される第9回全国同時地方選挙を前に、人工知能（AI）によるディープフェイク（映像や音声の合成）対策を強化する。行政安全省は3月10日、国立科学捜査研究院と共同で開発した「AIディープフェイク検出モデル」を選挙現場で本格活用すると発表した。
近年、特定人物の顔や声を精巧に合成するディープフェイク犯罪は急増している。選挙期間中に候補者の発言や行動を偽造した映像が拡散すれば、有権者の判断を歪め、選挙の公正性を損なう恐れがあるためだ。中央選挙管理委員会によると、ディープフェイク動画の削除要請は2024年の第22代総選挙で388件だったのに対し、2025年の第21代大統領選では1万510件に急増した。
ユン・ホジュン（尹昊重）行政安全相は「ディープフェイクは単なる技術問題ではなく、民主主義を揺るがしかねない新たな情報犯罪だ」と指摘。「地方選挙を前に、AIを悪用した虚偽情報の拡散に政府全体で対応する必要がある」と強調した。
今回導入される検出モデルは、2025年12月に開催された「ディープフェイク犯罪対応AI検出モデルコンテスト」の成果を基に開発された。268チームが参加し、その中から選ばれた5つの優秀モデルが中央選挙管理委員会に提供される。
新モデルは、映像全体の流れを分析する「グローバル分析」と、顔など特定部分の加工痕跡を調べる「ローカル分析」を同時に進める仕組みで、最新の生成AIによる偽造映像にも対応できる設計となっている。国立科学捜査研究院の検証では、従来モデルの検出精度が76～92％だったのに対し、新モデルは最大97％の精度を記録した。
同日、政府ソウル庁舎で公開されたデモでは、AI生成の選挙映像を専用サーバーにアップロードすると、分析結果とともに「フェイク」である可能性が数値で表示された。数値が0に近いほど本物、100に近いほど偽物であることを示す。研究チームによると、正常な映像と偽造映像のピクセル分析や周波数特性を比較して判定する仕組みだという。
市民がディープフェイク映像を発見した場合は中央選挙管理委員会に通報でき、選管は約400人のモニタリング要員を配置して確認後、プラットフォーム側に削除を要請する体制を取る。
(c)NEWSIS