韓国ネイバーの生成型AI検索サービス「AIブリーフィング」が、一部の検索語に対し誤った回答を提示したことが判明した。これは、事実確認されていないブログ情報などを参照してAIが回答を生成したためであり、ネイバー側は問題を確認後、該当のAIブリーフィング結果を削除し、低品質文書の検出技術を強化すると明らかにした。
IT業界によると、ネイバーで「ツキヨタケ レシピ」と検索した際、AIブリーフィングには注意喚起もなく多様なレシピが表示されたことがある。
ツキヨタケは食用不可能な毒キノコであり、ネイバーで「ツキヨタケ」とだけ検索すると「強い毒性がある」という知識百科の記述がすぐに表示される。
誤りが発生した原因は、AIが参照した投稿が間違っていたためだ。AIブリーフィングの回答末尾に示された参考文書には「ツキヨタケの効能と料理法、健康レシピ紹介」などのタイトルを持つブログ記事が含まれていた。
この投稿は生成AIによって作られたと推定される低品質なものであり、実際に該当のブログにアクセスすると、同様の口調や表現が繰り返される文章が並び、AI生成の特徴が見られた。
ネイバー側の対応により、現在は「ツキヨタケ レシピ」を検索してもAIブリーフィングの回答は表示されない。誤情報を含んだブログなどの文書も削除対象として処理中だ。
ネイバー関係者は「信頼性のあるコンテンツをもとに検索結果が提供されるように改善する」とし、「AIが生成した低品質文書についても、検出アルゴリズムやモニタリングを通じて技術的・運用的対応を継続的に強化する」と述べた。
(c)news1
