生成AIの活用が企業や公共サービスへ急速に広がる中、韓国インターネット振興院（KISA）はAIサービスの安全性を検証する「AIセキュリティー・レッドチーム」事業を本格化している。
AIレッドチームは、従来の模擬ハッキングに加え、プロンプトインジェクションや脱獄攻撃、機微情報の流出、不適切な指示の実行など、AI特有のリスクを攻撃者の視点で検証する取り組みだ。
KISAは2026年、「AIレッドチーム模擬ハッキング遂行および脆弱性発掘支援事業」を推進し、今月30日まで参加企業を募集している。対象はAIモデルやサービスを開発する中堅・中小企業、非営利法人で、20事業者を無料で支援する。
点検は外部者シナリオによる遠隔検査と、内部者シナリオによる現地点検で実施される。
またKISAは、「AIセキュリティー・レッドチームロードマップおよび中長期戦略研究」も発注した。予算は5000万ウォン（約550万円）。米国、英国、シンガポール、日本などの事例を調査し、短期・中期・長期のロードマップを策定する。
さらに専門家へのアンケートや深層インタビューを通じて成果指標や管理体制を整備し、AIセキュリティー向上につなげる方針だ。
(c)news1