韓国のユン・ソンニョル（尹錫悦）大統領の弾劾賛否を巡る集会で、AIを活用した「世論戦」が注目を集めている。集会現場やオンライン上ではAI生成による画像や音声があふれ、これが虚偽情報や混乱を招く可能性が指摘されている。
IT業界関係者によると、あるYouTubeチャンネルには、ユン大統領の逮捕状執行を記念したAI製作の風刺ソングを紹介する投稿が公開された。「私の名前は戒厳」という曲は、人気バンドの楽曲を使い、大統領の声と顔をAIで合成した映像として制作された。
実際に弾劾賛成集会では、ユン大統領の声をAIで合成した曲「私は弾劾が大嫌い」を使用。これに対し、弾劾反対集会では、ユン大統領が発表した戒厳令布告文をもとにしたAI製作の曲が歌われた。これらの曲はYouTubeなどで拡散され、一部の動画は数十万回以上の再生回数を記録している。
AI技術は音声だけでなく、画像生成にも活発に使用されている。3日にユン大統領の逮捕状執行が一時的に失敗した際、AIチャットボット「グロック」が生成した架空の逮捕シーンがSNSで拡散された。「ユン大統領が警察に連行される様子を見せてほしい」という指示に基づいて生成された画像は、非常にリアルな仕上がりだった。
これを見た利用者たちは「リアルすぎる」と驚く一方で、「この技術で虚偽ニュースを作るのが簡単になるのでは」と懸念を示した。さらに、ある放送局が「戒厳令が解除されなかった場合」をシミュレーションしたAI映像を制作。武装した戒厳軍が国会を襲撃し、議員を逮捕するシーンは「現実的すぎる演出」として視聴者に恐怖を与えた。
専門家は、生成型AIを利用した世論戦が虚偽情報の再生産に利用される可能性を指摘している。韓国AI教育協会のムン・ヒョンナム会長は「AIによる世論戦は、同じ意見を持つ人々を集める効果が大きい。だが、情報が不正確であっても大衆を誤導し、扇動するリスクがある。AI生成物は検証されていないケースが多く、虚偽や幻覚（ハルシネーション）問題が依然として存在する」と指摘した。
(c)news1
