韓国の国立科学捜査研究所（国科捜）が、俳優キム・スヒョン氏と故キム・セロンさんに関する疑惑の音声データについて、「AIによる偽造かどうかを判定できない」との見解を示し、AIを悪用した偽造犯罪に対する科学捜査技術の限界が改めて浮き彫りとなった。
問題の音声は、キム・セロンさんがキム・スヒョン氏と中学時代から交際しており、中学2年生の時に初めて性関係を持ったと語る内容を含んでいた。今年5月、YouTubeチャンネル「ガロセロ研究所（ガセヨン）」とキム・セロンさんの遺族側代理人によって公開された。
これに対し、キム・スヒョン氏の法務代理人であるLKB＆パートナーズは、この音声がAI技術によって作成・捏造されたものだとして、ガセヨンのキム・セイ代表を名誉毀損などの罪で告訴した。
しかし、捜査の鍵となる音声ファイルの真偽について、国科捜は「判定不能」との結果を示した。これにより、今後の真実解明はさらに難航すると見られている。
キム・スヒョン氏の弁護士であるコ・サンロク氏は「AI時代には、自身の声すら守れない現実がある」と警鐘を鳴らす。「国科捜ですら、本物の声とAI音声の区別がつかないという事実を、国民は深刻に受け止めるべきだ」と述べ、個人が自ら防衛策を講じる時代が来たと指摘した。
国科捜はこれまでにも、選挙期間中に候補者に関するディープフェイク映像や音声を鑑定してきた。中央選挙管理委員会と連携し、違法なフェイクコンテンツの摘発と削除にも取り組んでいる。
しかし、実際の捜査や裁判で証拠として通用するレベルには至っていないのが現実だ。
AI安全研究所のキム・ミョンジュ所長は「現行技術ではAIによる音声捏造を完全には見抜けない」と語る。「音声偽造（ディープボイス）の検出精度は60〜70％程度にとどまり、法的な証拠としては不十分な可能性が高い」と説明する。
加えて、国科捜にはAI偽造検出の専門人材が十分ではないとの指摘もある。キム所長は、「ディープフェイク検出ツールは毎年アップデートが必要で、昨年使えた技術が今年は通用しない場合もある」とし、警察や検察も体制を継続的に見直すべきと強調した。
(c)MONEYTODAY
