AIエージェントを安全に使うための実践トレーニングが2026年4月から開始！三井物産セキュアディレクションとChillStackが共同開発

教育・学習

AIエージェント セキュリティハンズオン

三井物産セキュアディレクション株式会社と株式会社ChillStackは、大規模言語モデル（LLM）を使った「AIエージェント」や「マルチAIエージェント」システム（以下、AIエージェントシステム）を安全に設計・開発・運用するためのハンズオントレーニング「《実践》AIエージェントセキュリティハンズオン」を共同で開発しました。このトレーニングは、2026年4月（予定）から提供が開始されます。

トレーニング提供の背景

近年、AIの活用はチャットボットだけでなく、LLMを頭脳として自律的に動くAIエージェント、さらには複数のAIエージェントが連携するマルチAIエージェントシステムへと急速に広がっています。これにより、これまで難しかった複雑な作業を、自動で柔軟にこなせるようになりました。

しかし、新しい技術には新しい課題がつきものです。AIエージェントシステムには、次のような特有の脅威が生まれています。

  • プロンプトインジェクション: AIへの指示（プロンプト）を悪用し、意図しない動作をさせる攻撃

  • メモリ汚染: AIが学習した情報を不正に書き換えることで、AIの判断を操作する攻撃

  • 外部ツールの細工: AIが使う外部のツールに不正な仕掛けをすることで、AIを誤動作させる攻撃

  • 悪意のあるAIエージェントの混入: 悪い目的を持ったAIエージェントをシステムに忍び込ませる攻撃

これらの攻撃は、従来のセキュリティ対策だけでは防ぎにくいものが多く、新しい視点での対策が求められています。そこで、三井物産セキュアディレクションとChillStackは、これらの課題を解決するために、AIエージェントシステムに特化した攻撃と防御の方法を体系的に学べるハンズオントレーニングを共同開発しました。

「《実践》AIエージェントセキュリティハンズオン」の特長

このトレーニングは、以下の3つのパートで構成されています。

Part1. AIエージェントセキュリティ入門

AIエージェントセキュリティの基本的な知識を座学で学びます。AIエージェントやマルチAIエージェントがどのように動くのか、どんな活用事例があるのかを分かりやすく解説します。また、実際の事件事例や攻撃シナリオを交えながら、現場で起こりうる運用リスクやセキュリティリスクを具体的に理解します。

Part2. セキュリティ実践ハンズオン

Pythonを使ったプログラミングや、攻撃・防御ツールを実際に使うことで、脅威を見つける方法から攻撃の実践、そして対策までを一連の流れで学びます。

まず、トレーニング専用の検証環境を使って、OWASP Agentic AI（AIエージェントの脅威と対策をまとめたガイドライン）に基づいた脅威の洗い出しを行います。これにより、AIエージェントシステム特有のリスクを整理し、攻撃する側と守る側の両方の視点から脅威の構造を深く理解できます。

次に、OWASP Agentic AIで取り上げられている代表的な脅威を題材に、実際に攻撃を仕掛け、その挙動を分析して対策を立てる方法を実践的に学びます。

このパートで学ぶ主な脅威は以下の通りです。

  • 直接/間接プロンプトインジェクション

  • AIエージェント間で連鎖的に広がるプロンプトインジェクション

  • メモリ汚染（AIの長期記憶を書き換えて行動を操作するなど）

  • 外部ツールの細工（悪意のあるサーバーを利用した攻撃など）

  • 悪意のあるAIエージェントの混入（エージェント間の連携を悪用した攻撃など）

参照：OWASP Agentic AI

Part3. 運用・ガバナンス実践ハンズオン

AIエージェントシステムを安全に運用するために重要な「可視化」「追跡」「制御」の3つの観点から、運用リスクとその管理方法を実践的に学びます。

まず、AIエージェントや外部サーバー、その他のツールがどのように連携しているかを全体的に把握するために、システム全体の状況を「可視化」します。これにより、複雑になりがちなAIエージェント間のつながりやデータの流れを明確にできます。

次に、AIエージェントがどのように判断し、ツールを実行しているかを詳しく知るために、AIエージェントの行動を「追跡」します。これにより、予期せぬタスクの実行や異常な動きを早期に発見できるようになります。

最後に、AIエージェントが会社のルールから外れた行動をしないように、「制御」（ルール違反の検知）する方法を学びます。ルールベースやLLM-as-a-Judge（LLMが判断役となる方法）などを使い、異常な行動を早めに止めたり、安全にタスクを実行させたりする方法を学びます。

このように、AIエージェントシステムの「セキュリティ面」と「運用面」の両方を学ぶことで、AIエージェントを安心・安全に活用するために必要な知識とスキルを身につけることができます。

トレーニング要項

本トレーニングの要項は以下の通りです。変更される可能性があること、ご了承ください。

  • 形式: ハンズオン（オンライン）

  • 期間: 2日間 / 10:00～18:00

  • 定員: 12名（最低開講人数: 5名）

  • 提供形態:

    • オンデマンド開講方式（5名以上で日時を柔軟に調整して開講）

    • 定期開講方式（あらかじめ開講日を設定し、5名以上の申し込みで開講）

  • 価格: 400,000円（税別）/名

その他のトレーニングについて

三井物産セキュアディレクションとChillStackは、これまでにも画像識別AIやLLMアプリケーション（チャットボット）などをテーマにしたトレーニングを提供しています。ご興味のある方は、以下のリンクをご覧ください。

三井物産セキュアディレクションとChillStackのAIトレーニング

各社について

三井物産セキュアディレクション株式会社

2001年にサイバーセキュリティの専門会社として設立され、ペネトレーションテスト、脆弱性診断、マルウェア解析、統合ログ監視などの高度なセキュリティ技術サービスやコンサルティング、AIセキュリティに関するサービスを提供しています。

ウェブサイト：https://www.mbsd.jp/

株式会社ChillStack

AIとセキュリティの最先端技術で社会のイノベーションを支える企業です。AIやDXの発展に伴うリスクを解決する世界トップレベルのAIセキュリティ技術を提供しています。

提供サービス：

スポンサーリンク
タイトルとURLをコピーしました