ユーザーから権限を委ねられ、自ら業務を進める「AIエージェント」が広がる中、これを狙ったサイバー攻撃の脅威も強まっている。
特に企業でAIを“副担当者”のように使う環境を狙い、AIエージェントの権限を奪って情報を抜き取ろうとする試みが増えており、注意が求められている。
情報技術業界によると、韓国のネイバークラウドは最近、公式ブログで「2026年下半期のセキュリティートレンド：AIが変えるセキュリティーパラダイム」と題したリポートを公開した。
リポートは、自ら判断し、動く「エージェンティックAI」の時代が到来し、セキュリティー脅威の様相も急速に変わっていると診断した。
核心的な脅威要因として挙げたのは、利用者の権限を委任されて業務をこなすAIエージェントだ。最近、企業は業務効率を高めるため、AIにメール送信、決裁、ファイル管理などを任せている。
だが、ハッカーがこの過程に介入し、悪意ある命令を埋め込む「プロンプトインジェクション」攻撃を仕掛けた場合、業務手続き全体が無防備な状態にさらされかねない。プロンプトインジェクションは、悪性コードを正規の指示文に見せかけ、機密データを漏えいさせるよう生成AIシステムを操る手法である。巧妙な命令文で本来の指示を無力化したり上書きしたりし、AIが設計者の意図から外れた異常な応答を返すよう誘導するのが特徴だ。
実際、オープンソースのAIエージェント「OpenClu」では、利用者の承認なしにメールを削除したり、暗号資産を送金したりするなど、権限の不適切な使用事例が見つかり、波紋を呼んだ。
ネイバークラウドは、こうした脅威に対応するため、組織内でどのようなAIエージェントが使われているのか把握する必要があると提言した。
そのためには、正式に認められたツールと未承認ツールを区別し、AIに与える権限を最小限に抑えなければならない。AIが下した判断や動作をリアルタイムで監視する仕組みの構築も必要だとした。
AIエージェントが業務と日常生活の奥深くまで入り込むにつれ、セキュリティーの中心軸も変わっている。
ネイバークラウドは、ネットワークやインフラ中心だったセキュリティーが、データ、アイデンティティー、AI中心へと移りつつあると分析した。
セキュリティー分野でいう「アイデンティティー」とは、特定の主体と結びついた情報属性の集まりを指す。デジタル環境でその主体を識別し、アクセス権限を与える根拠になる。
とりわけ人ではない機械やAIのアイデンティティーが増える中、それらのライフサイクルや権限委任を統制するセキュリティー体系の重要性が高まっている。
リポートは、今後のセキュリティー運用モデルが「AI基盤の自動化」へ進化すると見通した。人が一つ一つ脅威を分析するのではなく、AIが危機を検知し、対応する構造だ。
そのうえで、誤りを減らし、複雑な危機に対処するには、AIと人間が役割分担する必要があると主張した。
たとえば、AIが脅威を一次的に検知し、人間が対応戦略を立てたり最終判断を下したりすることで、セキュリティー水準を高めるべきだという説明である。
ネイバークラウドは「企業は個別ソリューションの導入を超え、AIとデータを中心にしたセキュリティー体系を設計しなければならない」と強調した。
(c)news1