AI

エーアイ

公開：2025-01-23

サイバーコマンドが生成AI向け脆弱性診断サービスを開始、LLM特有のセキュリティリスク対策が可能に

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• サイバーコマンドが生成AI向け脆弱性診断サービスを提供開始
• OWASP Top 10 for LLMを参考にした包括的な診断を実施
• 高度な技術を持つホワイトハッカーチームが対応

生成AI技術を活用したアプリケーション向け脆弱性診断サービス

サイバーコマンド株式会社は生成AI技術を活用したアプリケーションを対象とする脆弱性診断サービスを2025年1月22日に提供開始した。実績を持つホワイトハッカーチームが生成AI技術特有のセキュリティリスクに対する包括的な診断を実施し、具体的な改善案を提示することが可能になっている。^[1]

サイバーコマンドの脆弱性診断サービスはLLM特有のセキュリティリスクに対応しており、データ漏洩やプロンプトインジェクション、ジェイルブレイクといった生成AI技術特有のリスクに加え、既存のアプリケーションセキュリティの課題にも対応することが可能である。専門のホワイトハッカーチームが高度な知識と経験を駆使して徹底的な診断を実施することで、セキュリティリスクを最小限に抑えることを目指している。

サイバーコマンドはLLMを利用して構築したアプリケーションに対し、敵対的プロンプトを用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査することが可能である。また、LLMと連携する周辺システムに伴うリスクを総合的に調査することで、より安全なシステム構築をサポートしている。

生成AI技術を活用したアプリケーション向け脆弱性診断サービスの特徴まとめ

サービスの詳細はこちら

LLMについて

LLMとはLarge Language Model（大規模言語モデル）の略称で、大量のテキストデータを学習して自然言語処理タスクを実行する人工知能モデルのことを指す。主な特徴として以下のような点が挙げられる。

• 大規模なテキストデータからの学習による高度な言語理解
• 自然な対話や文章生成が可能な処理能力
• 多様なタスクに対応できる汎用性の高さ

LLMを活用したアプリケーションでは、データ漏洩やプロンプトインジェクション、ジェイルブレイクといった新たな種類の脆弱性が発生する可能性が存在する。そのため、専門のホワイトハッカーによる包括的な診断と具体的な改善案の提示が重要な役割を果たすことになるだろう。

参考サイト

1. ^ PR TIMES. 「生成AI技術を活用したアプリケーションに対する脆弱性診断サービスを提供開始 | サイバーコマンド株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000023.000088441.html, (参照 25-01-23).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧