ディープフェイクは、AIの発展に伴う代表的な社会的副作用の一例として挙げられる。ディープフェイクで生成された映像は性犯罪の問題を引き起こし、最近ではディープフェイク技術で巧妙に偽装された知人の声を利用したボイスフィッシング犯罪が問題視されている。
ディープフェイク音声、つまり「ディープボイス」は、結局のところ人間が識別できない偽の人間の声が問題となる。
AIによって生じたこの弊害を、AIで解決しようとする試みが注目を集めている。
スペイン・バルセロナで3月3～6日開催の世界最大のモバイル関連見本市「MWC」で「安心知能（セキュアAI）」をテーマに展示ブースを設けた韓国の大手通信会社「LG U+（LGユープラス）」。そのブースでは、アンチ・ディープボイスが体験できる。
展示担当者の説明に従い、「提案書の最終版はメールでお送りします」と読み上げると、AIが声を分析した後、すぐに「人間です」と判定する。
一方、機械が読み上げた文章の場合は、直ちに赤い警告ランプが点灯し、「注意してください、AIで生成された音声です」と警告し、通話を終了するよう促す。
一見すると特別な技術には見えないかもしれないが、スマートフォン画面に表示される赤い警告と警告音だけで、個人の精神的な喪失感や経済的被害を防ぐ効果的な手段となる。
LG U+の「IXIO」を基盤に、機械音と人間の声を区別する仕組みだ。
展示担当者は「合成音声に特有の周波数ノイズを検出し、偽の声を識別する。TTS（Text-to-Speech）による音声合成技術が進化しても、それを検知する技術もデータ学習を通じてさらに高度化する。現在、機械音声の識別率は最低95％以上であり、今後さらに向上する可能性がある」と説明している。
(c)KOREA WAVE
