専門家の間では、こうした弊害を防ぐためにAI技術を活用する企業に一定の義務を課すべきだという意見が出ている。
韓国サムスンSDSでAI基盤マルチメディア偽変造対応プラットフォームを開発する社内ベンチャーチームナインのホン・ミンギプロは「犯罪が発生してから、事実有無を把握する『事後探知』では、ディープフェイク悪用犯罪に対応しにくい」とみる。
「イメージ、音声、映像などメディア生成から配布・使用まですべての過程を記録・閲覧するよう規格を適用することや、デジタルフォレンジック過程を通じ、メディア固有情報のデジタル指紋を検証する対応策が必要だ」
また、処罰を強化すべきだという主張もある。
ソウル女子大学・正しいAI研究センター長兼情報保護学科のキム・ミョンジュ教授は「家族同士で通話する時も、相手がAIで作られた偽人間なのか疑ってみなければならない時代になった。ディープフェイク悪用犯罪を加重処罰するなどの措置が必要だ」と強調する。
「n番部屋事件」によって、ディープフェイクわいせつ物に対する処罰規定が強化されただけだった。他のタイプのディープフェイク悪用に対する防止策はないという。キム・ミョンジュ氏は「AIで作ったディープフェイク物に『この生成物はディープフェイク物』という表示条項を入れるよう指示している米国の事例も参照する必要がある」と話した。
チェ・ギョンジン学会長も「ディープフェイクを悪用して他人の生命・身体・財産に危害を加える行為を、新たな犯罪類型に定めることもできるだろう。『ディープフェイク利用名義盗用罪』などを新たな犯罪類型に追加するかも議論しなければならない」と話した。
◇米国人に「投票せよ」という金正恩氏
音声合成技術は、音声の音波を機械が自動的に作り出す技術だ。声を録音すれば、一定の音声単位で分割して保管し、必要な時にバラバラになった音声を合わせて声を作り出す。
ユーチューブで、別名「ボット」が読んでくれる字幕がこのような技術で作られた代表的な例だ。これまで不自然なイントネーションが課題とされ、細分化された音声をつなげる作業にも時間がかかった。
1950年代から研究された音声合成技術が越えられなかった壁は、まさにここだ。
2010年代半ばまでは、音声合成分野の技術は、人間についていくことは難しいとされた。声のものまね技術があっただけだ。
状況がひっくり返ったのは、人工知能（AI）が登場してからだ。人の脳をそのまま再現したようなニューラルネットワーク回路がマシンラーニングとディープラーニングを繰り返しながら、言葉を学び始めた。
グーグルが2017年に発売した「タコットロン2」は「うん～」や「うん～」のように人々が使う合いの手まで駆使する水準に達した。
さらに進化した人工知能が作り出すディープフェイク・ボイス（偽音声）は、無味乾燥だった声にさらに感情が加わった。昨年、「Spotify」が買収した人工知能音声合成スタートアップ「Sonantic」の技術は、同じ文章を「怒り」「恐怖におびえた」「幸せな」「悲しい」「叫ぶ」など多様な感情で表現し、感情の強さも3段階に設定できるのだ。
喉がん手術を受けた後、声の演技に困っている映画俳優バル・キルマーが、ハリウッド映画「トップガン・マーベリック」に出演できたのも、ソナンティックの音声合成技術のおかげだった。
2020年には、北朝鮮のキム・ジョンウン（金正恩）総書記が「何もしなければ民主主義が滅びる」として米大統領選挙投票を促すディープフェイク映像が話題になった。
米国の腐敗監視市民団体「リフレゼントアース」が、人工知能を利用して作ったこの偽映像は、キム総書記の胴体と頭を連結した部分の動きがややぎこちないが、顔の表情と声などは本物と似ている。
（つづく）
(c)MONEYTODAY
