最近、AIを利用したディープフェイク、ディープボイスが猛威を振るう中で、本物と偽物を区別できる技術の重要性が高まっている。AI技術が高度化され、個人の力だけではますます区別しにくくなっている。
韓国・崇実（スンシル）大学情報通信電子工学部のチョン・スファン教授はこの3年間、研究員や学生らと一緒に「AIボイス探知システム」を作った。独自開発したAISRCサイトに音声ファイルを入れれば、どの声が本物なのか、偽物なのかを区分できる。実験に使った音声でも「フェイク（Fake）」数値が、実際の人の声は0.04％、AIで生成された偽の声は73.85％との結果が出た。
チョン教授はリアルタイム動画についても本物と偽物を区別するアプリも開発した。映像の中でAIの声が出れば、フェイク数値が自動的に表示される。数値が50％以上であれば、偽物である確率が高い。
これまで約7万個のサンプルデータをテストした。チョン教授が音声探知システムに本気を出した理由は、AI技術が急速に成長する分、副作用を最小化する技術も必要だと考えたためだ。
チョン教授は「最近はユーチューブにも信じられないコンテンツがあまりにも多く、AI技術がボイスフィッシング犯罪や詐欺手法に利用される場合も多い。消費者はコンテンツを本物と偽物を区分する権利がある」と話した。
技術を開発するのに困難も多かった。人の声ごとにさまざまな特性があった。現実世界では声の他にもいろいろな雑音が存在する。チョン教授は、変調された音声と人の実際の音声データを最大限収集し、ディープラーニングで違いを判別して探知した。
チョン教授は「2014年から多種多様なAI生成器が登場し、性能も良くなった。それぞれのAI生成器モデルごとに特徴があるが、そのような部分をうまくキャッチしてデータをトレーニングさせ、本物と偽物を区分する能力を養った」と話した。
最近関心を持って見る部分はイントネーションと感情のような非言語的な要素だ。チョン教授は「AIで作り出す感情は100％自然ではない。人間の声の中に感情ベクトル部分を引き出してAIの声とどのように区分するかを研究している」と話した。
チョン教授は今後、ディープボイス、ディープフェイクに対抗する新技術を作り出すことが重要だと指摘する。「ディープフェイク、ディープボイス技術は経済性と効率性が高いという利点も明らかにある。単純に規制して個人に自分で本物と偽物を判断するよう要求するのは時代の流れに合わない。技術的に副作用をどう克服するか考えるタイミングだ」と述べた。
(c)MONEYTODAY
