2021年のある日、アラブ首長国連邦（UAE）の銀行に、大企業の役員から電話がかかってきた。銀行の関係者は、この役員の指示通りに3500万ドル（約46億円）を送金した。
だが、電話の声は、役員の声を真似した「人工知能（A）ディープフェイク・ボイス」だった。これが巧妙な「電話詐欺団」の手口だ。
普段、この役員の声をよく知っていた銀行関係者は、いささかの疑いもなく巨額を振り込んでしまった。電話一本であっという間に数十億円が消えたのだ。
米IT専門調査会社のガートナーは、今年の金融詐欺犯罪の20％に、このようなディープフェイク技術が悪用されるだろうとみている。
韓国警察庁も昨年10月、ディープフェイク・ボイスを利用した「ボイスフィッシング」に注意するよう公共広告の映像を流した。この映像の中では、ある母親のもとに「携帯電話の修理費80万ウォン（1ウォン＝約0.1円）を送ってほしい」と電話がかかってくる。声は自分の娘とそっくりだが、実は詐欺団だった。映像のタイトルは「鳥肌が立つ事件 私の娘だと思ったのに」。コメントには「ホラー映画級」だとの反応が相次いだ。
今、人工知能を悪用したディープフェイク・ボイスの新種の犯罪被害が急増している。
UAEの事例のように、海外では1件に数十億円の被害が発生するディープフェイク・ボイス犯罪が続々と報告されている。韓国検察庁はこのようなAI新種犯罪に対する対応策の一環として、2027年までにディープフェイク・ボイス偽音声探知技術開発に乗り出すことにした。
AI技術を悪用して先端技術化する犯罪に、AI技術で立ち向かうということだ。
◇「AIを防ぐにはAI」
韓国最高検察庁科学捜査部は11日、2024～27年にかけて、ディープフェイク・ボイス技術の開発に着手する。4カ年国策事業である「刑事司法証拠検証体系高度化やフロンティア技術開発研究事業」が今年末に終了すれば、ディープフェイク・ボイス犯罪予防技術を国策課題として推進する方針だ。
音声複製・合成・変造技術であるディープフェイク・ボイスは「声のディープフェイク」と言える。
人工知能のディープラーニング（深化学習）技術を通し、「本物のような偽物（fake）」を作る。誰かの音声ファイルを取って、他人の口の形にかぶせる音声合成技術や、ゲームなどで利用者の声をキャラクターの声に変える音声変調技術が犯罪に悪用されるのだ。
ディープフェイク・ボイス犯罪が怖いのは、警察庁が公開した公共広告映像のように、知人の声で人をだますことができるという点だ。過去のボイスフィッシングでは、「話し方がネイティブっぽくない」などの気配に気づくこともできた。だが、知人の声で接近するディープフェイク・ボイス犯罪では、専門家であっても偽物かどうかの区別は難しい。
崇実大学電子情報工学部のホン・ギフン教授は「韓国でも、被害者がしばしば『自分の子供の声だと思った』と話す。それほど巧妙なのが、ディープフェイク・ボイスによる犯罪だ」と指摘する。
国際人工知能倫理協会のチョン・チャンベ理事長は「2～3分の声の録音ファイルがあれば、専門家でなくてもアプリを利用してディープフェイク・ボイスを作ることができる。本物と偽物を区別できないほどに技術が発展した」との見解を示している。
◇政府・国会・捜査当局の先制対応が急務
ディープフェイク・ボイスは、ユーチューブで有名人の声を引用してしばしば悪用される。昨年、ウクライナのゼレンスキー大統領による「降伏宣言」の偽映像が、ユーチューブで広がったのが代表的だ。
犯罪を防ぐ手段はないのか。
技術的には、一般音声と合成音声の周波数やコード差を区分することで、ディープフェイク・ボイスかどうかを判別することはできる。しかし、こうした技術を開発するには相当な時間がかかる。合成・変造技術の発展するスピードが速いため、多様な形態で作られる合成・変造音を判別する技術を開発して商用化するのは、容易ではない。
犯罪摘発と処罰を巡っては課題もある。ディープフェイク・ボイス探知技術で摘発した犯罪証拠物を、裁判所が認めるかどうかがカギになる。最高検察庁関係者は「結果物が裁判所で証拠として認められるためには、それだけ探知技術の安定性が高くなければならない。技術を悪用した犯罪に対抗するためには、さらに緻密な技術が必要になる」と強調する。
専門家らは、ディープフェイク・ボイス犯罪の拡散を防ぐためには、政府と国会も積極的に乗り出すべきだと訴える。探知技術は、需要が捜査機関などに限定され、開発に乗り気になる企業は少ない。政府が予算をかけなければ、企業による開発は進まないとしている。
チョン・チャンベ理事長は「政界では、まだディープフェイク・ボイスや人工知能に対する関心が大きくない。だからこそ、チャンスを逃してはならない」と話した。
（つづく）
(c)MONEYTODAY
