セキュリティ

SECURITY

公開：2025-02-04

ChillStackと三井物産セキュアディレクションがLLMセキュリティハンズオントレーニングを開始、プロンプトインジェクション対策などの実践的スキルを提供

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• ChillStackと三井物産セキュアディレクションが新サービス開始
• LLMアプリケーション開発のセキュリティ技術を学習可能
• プロンプトインジェクションなどの攻撃手法と対策を習得

LLMセキュリティハンズオントレーニングの提供開始

ChillStackと三井物産セキュアディレクションは2025年2月3日、LLMアプリケーションの安全な開発・提供のためのハンズオントレーニング「《実践》LLMセキュリティハンズオン」の提供を開始した。近年急速に普及しているLLM技術に対するサイバー攻撃手法が多様化する中、既存のセキュリティ技術だけでは対策が困難な状況が続いている。^[1]

本トレーニングは2つのパートで構成されており、Part1ではLLMセキュリティの入門・基礎知識を座学形式で学習することが可能だ。LLMの動作原理や活用事例の紹介に加え、具体的なセキュリティリスクについても実例を用いながら理解を深めることができる。

Part2では実践的なハンズオントレーニングを通じて、プロンプトインジェクションやプロンプト・リーキングなどの攻撃手法への対策を学ぶことができる。トレーニング独自の検証環境で実際の攻撃を体験し、防御機構の開発方法までを網羅的に習得することが可能となっている。

LLMセキュリティハンズオンの概要

プロンプトインジェクションについて

プロンプトインジェクションとは、LLMに対する攻撃手法の一つで、意図的に細工された入力を送ることでシステムの動作を操作する手法のことを指す。主な特徴として以下のような点が挙げられる。

• LLMの出力を操作して意図しない応答を引き出す
• システムプロンプトの制約を回避する
• 機密情報の漏洩やシステムの誤動作を引き起こす

LLMアプリケーションの開発において、プロンプトインジェクションへの対策は重要な課題となっている。本トレーニングでは、OWASP Top 10 for LLM Applications 2025で取り上げられているセキュリティリスクに基づき、実践的な防御手法を学ぶことができるため、安全なLLMアプリケーションの開発に役立つだろう。

参考サイト

1. ^ PR TIMES. 「ChillStackと三井物産セキュアディレクション、「LLMのセキュリティ技術」を学べるハンズオントレーニングを提供開始 | 株式会社ChillStackのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000047.000046548.html, (参照 25-02-04).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「セキュリティ」に関するコラム一覧「セキュリティ」に関するニュース一覧