AI

エーアイ

公開：2024-12-03

三菱総研DCSとGMOサイバーセキュリティ byイエラエが生成AI向けセキュリティ診断サービスを開始、AIシステムのリスク対策を強化

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• 三菱総研DCSとGMOサイバーセキュリティ byイエラエが生成AI活用で協業開始
• 生成AI利用システム向けのセキュリティ診断サービスを提供開始
• GPTなどのLLMを利用したシステムのセキュリティリスクを調査可能

三菱総研DCSが生成AI向けセキュリティ診断サービスを開始

三菱総研DCS株式会社とGMOサイバーセキュリティ byイエラエ株式会社は2024年11月28日、生成AI活用におけるセキュリティ強化を目的とした協業を発表した。この協業により三菱総研DCSは「生成AI利用システムセキュリティ診断」の提供を開始したことで、企業の生成AI活用におけるセキュリティリスクの可視化と対策が可能になった。^[1]

三菱総研DCSが提供する生成AI利用システムセキュリティ診断は、GPT等のLLMを利用して構築したアプリケーションに対して敵対的プロンプトを用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスである。このサービスによって、生成AIシステムへの不正な命令による不適切な出力の生成や機密情報の窃取などの新たなセキュリティリスクに対応することが可能になった。

金融業界をはじめとしたセキュリティ対策に知見を持つ三菱総研DCSと、攻撃者の手法を熟知したホワイトハッカーが多数在籍するGMOサイバーセキュリティ byイエラエの協業により、最先端のセキュリティ対策の提供が実現した。両社は今後も連携を広げ、増大するサイバーリスクに対して柔軟に対応できる環境を創出することを目指している。

生成AI利用システムセキュリティ診断の特徴まとめ

敵対的プロンプトについて

敵対的プロンプトとは、AIシステムの動作を意図的に操作や妨害することを目的として設計された入力テキストのことを指す。主な特徴として以下のような点が挙げられる。

• AIシステムの脆弱性を探るために使用される特殊な入力パターン
• システムの制約やフィルタリングをバイパスすることを目的とする
• 不適切な出力や機密情報の漏洩を引き起こす可能性がある

生成AI利用システムセキュリティ診断では、この敵対的プロンプトを用いた擬似攻撃によってシステムの脆弱性を特定し、対策を講じることが可能になる。金融業界での実績を持つ三菱総研DCSとホワイトハッカー集団のGMOサイバーセキュリティ byイエラエの知見を活かし、高度なセキュリティ対策を提供することができる。

参考サイト

1. ^ 三菱総研ＤＣＳ. 「三菱総研ＤＣＳとGMOサイバーセキュリティ byイエラエが生成AI活用支援で協業　～生成AI利用システム向けのセキュリティ診断サービスを提供～｜三菱総研ＤＣＳ」. https://www.dcs.co.jp/news/2024/241128.html, (参照 24-12-03).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧