韓国で3・1節（独立運動記念日）を前に、生成型人工知能（AI）で制作された独立運動家、ユ・グァンスン（ユ・グァンスン）を嘲弄する動画が拡散し、動画共有アプリのTikTokが削除措置を取った。生成AIの普及とともに悪用事例も増える中、「AI基本法」に基づく透かし表示（ウォーターマーク）義務の実効性を疑問視する声が上がっている。
TikTokはAIで制作されたユ・グァンスンの嘲弄動画がコミュニティガイドラインに違反すると判断し、2月26日にすべて削除した。
該当動画は同22日からある利用者が相次いで投稿し、計20万回以上再生されたが、26日午後以降は検索できない状態となっている。
最初の動画では、囚人服姿のユ・グァンスンが放屁する場面と、それをかいだ女性が倒れる様子が描かれた。続く動画は「ユ・グァンスンおならロケット」と題し、下半身をロケットに合成して宇宙へ飛び立つ姿を滑稽に表現していた。
これらの動画はすべて、OpenAIの動画生成AIモデル「Sora」で制作された。「Sora」は、生成型AIサービス「ChatGPT」を展開するOpenAIが開発した動画生成モデルだ。Soraが参考にした原画像は、1919年の三・一運動で西大門刑務所に収監された際に撮影されたユ・グァンスンの囚人服姿の写真とみられる。
動画に対しては「一線を越えている」「見た瞬間ショックを受けた」など批判が相次いだ。TikTok関係者は「コミュニティガイドライン違反コンテンツを常時監視しており、違反が確認されれば必要な措置を取る。社会的誤解を招くAI生成物の投稿は厳しく禁止している」と説明した。
(c)news1