AI

エーアイ

公開：2025-02-04

三井物産セキュアディレクションとChillStackがLLMセキュリティトレーニングを提供開始、実践的な攻撃対策スキルの習得が可能に

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• 三井物産セキュアディレクションとChillStackがLLMセキュリティトレーニングを開始
• プロンプトインジェクションなどLLM特有の攻撃手法への対策を習得
• 理論と実践を組み合わせた2日間のハンズオン形式で提供

LLMアプリケーションのセキュリティ技術習得に向けた新トレーニング提供開始

三井物産セキュアディレクションとChillStackは2025年2月3日、大規模言語モデル向けのセキュリティトレーニング「《実践》LLMセキュリティハンズオン」の提供を開始した。LLMアプリケーションを安全に開発・提供するために必要な知識とスキルを習得できるプログラムとなっており、プロンプトインジェクションやJailbreakなどLLM特有の攻撃手法への対策を学ぶことが可能だ。^[1]

トレーニングは座学とハンズオンの2部構成で提供され、座学パートでLLMセキュリティの基礎を学んだ後、実践パートでPythonによるコーディングや実践的な攻撃・対策ツールを用いた演習を行う形式となっている。OWASP Top 10 for LLM Applications 2025で取り上げられているセキュリティリスクを題材に、独自の検証環境での攻撃演習と防御機構の開発手法を習得できるだろう。

トレーニングはオンラインで2日間にわたって実施され、1日あたり8時間の充実した内容となっている。受講料は1名あたり36万円からで、最少開講人数は5名、定員は12名に設定されており、トレーニング内容のカスタマイズにも対応している。

LLMセキュリティトレーニングの概要

トレーニングの申し込みはこちら

プロンプトインジェクションについて

プロンプトインジェクションとは、LLMに対して悪意のある入力を行い、意図しない動作や応答を引き出す攻撃手法のことを指す。主な特徴として、以下のような点が挙げられる。

• LLMの文脈理解機能を悪用して制御を乗っ取る
• システムプロンプトの開示やポリシー違反を誘導する
• 従来のインジェクション攻撃とは異なる新しい脅威

プロンプトインジェクションはLLMアプリケーションに特有のセキュリティリスクであり、従来のWebセキュリティ対策では防ぐことが困難である。LLMの特性を理解した上で、適切な入力検証や出力フィルタリング、プロンプト設計などの複合的な対策が必要となる。

参考サイト

1. ^ PR TIMES. 「三井物産セキュアディレクションとChillStack、「LLMのセキュリティ技術」を学べるハンズオントレーニングを提供開始 | 三井物産セキュアディレクション株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000028.000003166.html, (参照 25-02-04).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧