2024 年 5月 23日 (木)
ホーム経済IT/メタバース新犯罪との戦い宣言 AIが作る“本物の声”の脅威 (1)

新犯罪との戦い宣言 [KWレポート] AIが作る“本物の声”の脅威 (1)

警察庁が昨年10月、ディープフェイク・ボイス犯罪予防のために製作した映像(警察庁ユーチューブキャプチャー)(c)MONEYTODAY

2021年のある日、アラブ首長国連邦(UAE)の銀行に、大企業の役員から電話がかかってきた。銀行の関係者は、この役員の指示通りに3500万ドル(約46億円)を送金した。

だが、電話の声は、役員の声を真似した「人工知能(A)ディープフェイク・ボイス」だった。これが巧妙な「電話詐欺団」の手口だ。

普段、この役員の声をよく知っていた銀行関係者は、いささかの疑いもなく巨額を振り込んでしまった。電話一本であっという間に数十億円が消えたのだ。

米IT専門調査会社のガートナーは、今年の金融詐欺犯罪の20%に、このようなディープフェイク技術が悪用されるだろうとみている。

韓国警察庁も昨年10月、ディープフェイク・ボイスを利用した「ボイスフィッシング」に注意するよう公共広告の映像を流した。この映像の中では、ある母親のもとに「携帯電話の修理費80万ウォン(1ウォン=約0.1円)を送ってほしい」と電話がかかってくる。声は自分の娘とそっくりだが、実は詐欺団だった。映像のタイトルは「鳥肌が立つ事件 私の娘だと思ったのに」。コメントには「ホラー映画級」だとの反応が相次いだ。

今、人工知能を悪用したディープフェイク・ボイスの新種の犯罪被害が急増している。

UAEの事例のように、海外では1件に数十億円の被害が発生するディープフェイク・ボイス犯罪が続々と報告されている。韓国検察庁はこのようなAI新種犯罪に対する対応策の一環として、2027年までにディープフェイク・ボイス偽音声探知技術開発に乗り出すことにした。

AI技術を悪用して先端技術化する犯罪に、AI技術で立ち向かうということだ。

◇「AIを防ぐにはAI」

韓国最高検察庁科学捜査部は11日、2024~27年にかけて、ディープフェイク・ボイス技術の開発に着手する。4カ年国策事業である「刑事司法証拠検証体系高度化やフロンティア技術開発研究事業」が今年末に終了すれば、ディープフェイク・ボイス犯罪予防技術を国策課題として推進する方針だ。

音声複製・合成・変造技術であるディープフェイク・ボイスは「声のディープフェイク」と言える。

人工知能のディープラーニング(深化学習)技術を通し、「本物のような偽物(fake)」を作る。誰かの音声ファイルを取って、他人の口の形にかぶせる音声合成技術や、ゲームなどで利用者の声をキャラクターの声に変える音声変調技術が犯罪に悪用されるのだ。

ディープフェイク・ボイス犯罪が怖いのは、警察庁が公開した公共広告映像のように、知人の声で人をだますことができるという点だ。過去のボイスフィッシングでは、「話し方がネイティブっぽくない」などの気配に気づくこともできた。だが、知人の声で接近するディープフェイク・ボイス犯罪では、専門家であっても偽物かどうかの区別は難しい。

崇実大学電子情報工学部のホン・ギフン教授は「韓国でも、被害者がしばしば『自分の子供の声だと思った』と話す。それほど巧妙なのが、ディープフェイク・ボイスによる犯罪だ」と指摘する。

国際人工知能倫理協会のチョン・チャンベ理事長は「2~3分の声の録音ファイルがあれば、専門家でなくてもアプリを利用してディープフェイク・ボイスを作ることができる。本物と偽物を区別できないほどに技術が発展した」との見解を示している。

◇政府・国会・捜査当局の先制対応が急務

ディープフェイク・ボイスは、ユーチューブで有名人の声を引用してしばしば悪用される。昨年、ウクライナのゼレンスキー大統領による「降伏宣言」の偽映像が、ユーチューブで広がったのが代表的だ。

犯罪を防ぐ手段はないのか。

技術的には、一般音声と合成音声の周波数やコード差を区分することで、ディープフェイク・ボイスかどうかを判別することはできる。しかし、こうした技術を開発するには相当な時間がかかる。合成・変造技術の発展するスピードが速いため、多様な形態で作られる合成・変造音を判別する技術を開発して商用化するのは、容易ではない。

犯罪摘発と処罰を巡っては課題もある。ディープフェイク・ボイス探知技術で摘発した犯罪証拠物を、裁判所が認めるかどうかがカギになる。最高検察庁関係者は「結果物が裁判所で証拠として認められるためには、それだけ探知技術の安定性が高くなければならない。技術を悪用した犯罪に対抗するためには、さらに緻密な技術が必要になる」と強調する。

専門家らは、ディープフェイク・ボイス犯罪の拡散を防ぐためには、政府と国会も積極的に乗り出すべきだと訴える。探知技術は、需要が捜査機関などに限定され、開発に乗り気になる企業は少ない。政府が予算をかけなければ、企業による開発は進まないとしている。

チョン・チャンベ理事長は「政界では、まだディープフェイク・ボイスや人工知能に対する関心が大きくない。だからこそ、チャンスを逃してはならない」と話した。

(つづく)

(c)MONEYTODAY

RELATED ARTICLES

Most Popular