AI

エーアイ

公開：2024-12-26

AIセキュリティスタートアップSherLOCKが生成AIリスクアセスメントサービスを開始、OWASP TOP10 for LLM 2025に準拠した包括的な評価を実現

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• SherLOCKがOWASP TOP10準拠のAIリスクアセスメントサービスを開始
• 生成AI導入前後の包括的なリスク評価と対策を提供
• OWASP TOP10 for LLM 2025の全脅威カテゴリーに対応

SherLOCKのAIリスクアセスメントサービス「SherLOCK TOP10 for LLM」がローンチ

AIセキュリティスタートアップのSherLOCK株式会社は、OWASP TOP10 for LLM 2025に準拠した生成AIリスクアセスメントサービス「SherLOCK TOP10 for LLM」を2024年12月25日にリリースした。生成AI技術を企業が安全に活用するための総合的なリスクアセスメントサービスとして、プロンプトインジェクションなど10の重要な脅威カテゴリーを網羅している。^[1]

本サービスは、生成AI導入前および導入後におけるリスク評価と実践的な対策提案を特徴としており、企業の規模やAI利用状況に応じてカスタマイズが可能となっている。AIセキュリティリスクの分類に基づき、生成AI活用において生じる可能性のあるリスクを包括的に評価し、具体的な予防策と緩和策を提示するものだ。

SherLOCK株式会社は2024年1月に設立されたスタートアップで、AIセキュリティと機密データ保護のためのソリューション開発を手がけている。代表取締役CEOの築地テレサ氏が率いる同社は、東京都港区虎ノ門に本社を構え、産官学の架け橋となってAIセキュリティソリューションの社会実装を目指している。

SherLOCK TOP10 for LLMの特徴まとめ

SherLOCKの詳細はこちら

OWASP Top 10 for LLMについて

OWASP Top 10 for LLMとは、大規模言語モデル（LLM）アプリケーションに特化した世界的に参照されるAIセキュリティリスクのガイドラインであり、以下のような特徴がある。

• LLMの普及に伴うAIセキュリティ上の課題に対処するためのガイドライン
• 開発者やセキュリティ専門家向けの重要なリソース
• Unbounded ConsumptionやVector and Embedding Weaknessesなどの新たなリスクに対応

2025年版では、従来のセキュリティリスクに加えて、LLMの実際の利用から浮かび上がった新たな脅威にも焦点を当てている。このガイドラインに準拠することで、企業は生成AIの導入におけるセキュリティリスクを包括的に評価し、適切な対策を講じることが可能となっている。

SherLOCK TOP10 for LLMに関する考察

SherLOCK TOP10 for LLMの登場は、企業における生成AI導入の安全性向上に大きく貢献する可能性がある。特に、OWASP TOP10 for LLM 2025に準拠していることで、最新のAIセキュリティリスクに対する包括的な評価と対策が可能となり、企業のAI活用における不安要素を軽減することが期待できるだろう。

今後の課題として、AIモデルの進化に伴う新たなセキュリティリスクへの対応が挙げられる。生成AIの技術革新は急速に進んでおり、それに伴って新たな脆弱性や攻撃手法が発見される可能性が高く、アセスメント基準の継続的な更新と拡充が必要となるはずだ。

企業のAI活用が加速する中、セキュリティ対策の重要性は一層高まっていくと予想される。SherLOCK TOP10 for LLMには、AIセキュリティの標準化をリードする存在として、より多くの企業がAIを安全に活用できる環境づくりへの貢献が期待されている。

参考サイト

1. ^ PR TIMES. 「AIセキュリティスタートアップSherLOCK 「OWASP TOP10 for LLM 2025」準拠 生成AIリスクアセスメントサービス「SherLOCK TOP10 for LLM」をローンチ | SherLOCK株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000011.000145146.html, (参照 24-12-26).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧