AI

エーアイ

公開：2025-05-09

Librusが生成AIセキュリティ診断サービスを提供開始、プロンプトインジェクションなどの新たな脅威に対応

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• Librusが生成AIセキュリティ診断サービスを開始
• プロンプトインジェクションや情報漏洩リスクに対応
• 多層的な構造に対応した総合的なリスク評価を提供

生成AIセキュリティ診断サービスの提供開始

Librus株式会社は生成AIを活用したシステムのセキュリティリスクを可視化・分析する生成AIセキュリティ診断サービスを2025年5月7日に提供開始した。従来のセキュリティ対策では対処が困難なプロンプトインジェクションやプロンプトリーク、ハルシネーションなどの新たなリスクに対応することが可能になっている。^[1]

生成AIセキュリティ診断サービスは、LangChainなどのミドルウェアやシステムプロンプト、APIキー、外部データベースとの連携など多層的な構造に対して、攻撃者の視点から潜在的なリスクを洗い出し問題箇所を特定・可視化する診断プログラムとなっている。プロンプトインジェクションやプロンプトリークなどの新たな脅威に対する総合的なリスク評価を実現するものだ。

サービスの提供により、企業が生成AIを安心して導入・活用できる環境が整備されることになった。技術的な対策に加えて運用設計やプロンプト管理体制まで含めた包括的な支援を行うことで、生成AI活用におけるセキュリティリスクの低減と適切な運用体制の構築を実現することが可能になっている。

生成AIセキュリティ診断サービスの主な診断対象リスク

生成AIセキュリティ診断サービスの詳細はこちら

プロンプトインジェクションについて

プロンプトインジェクションとは、生成AIシステムに対して意図的に細工された入力を行うことで、システムの設定や制限を回避し、本来アクセスできない情報を引き出す攻撃手法のことを指す。主な特徴として以下のような点が挙げられる。

• システムの制御を回避して機密情報を不正に取得
• AIモデルの動作を操作して意図しない出力を生成
• セキュリティ設定を迂回して内部情報にアクセス

プロンプトインジェクション攻撃は生成AIシステムに特有の脆弱性を突く新しい攻撃手法として注目されている。従来のWebアプリケーションに対するSQLインジェクション攻撃に類似した特徴を持ちながら、AIモデルの性質を利用した巧妙な手法で情報漏洩やシステムの誤動作を引き起こす可能性があるのだ。

参考サイト

1. ^ PR TIMES. 「「生成AIセキュリティ診断サービス」を提供開始 | Librus株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000015.000053960.html, (参照 25-05-09).
1507

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧