AI

エーアイ

公開：2024-12-05

Vectra AIがMicrosoft Copilotのセキュリティ課題を指摘、RAGシステムの脆弱性による機密データ漏洩のリスクが明らかに

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• Microsoft CopilotのRAGシステムに新たなセキュリティの脆弱性
• AIアシスタントによる機密データの不正アクセスリスクが浮上
• 2025年までにAIセキュリティ支出が15%以上増加の見込み

Microsoft CopilotのRAGシステムにおけるセキュリティ課題が明らかに

Vectra AI Japanは2024年12月4日、MicrosoftのAIアシスタント機能であるCopilotが抱えるセキュリティ上の課題と対策について発表を行った。米国の研究者たちが「ConfusedPilot」と名付けたプログラムを通じて、RAGシステムの脆弱性とAIによる機密データ漏洩のリスクが明らかになったのである。^[1]

AIアシスタント・プログラムの導入が加速する中、セキュリティ侵害の深刻度が増していることが大きな懸念となっている。ガートナー社は2025年までに生成AIの安全性を確保するためのサイバーセキュリティ支出が15%以上増加すると予測しており、企業のセキュリティ体制の強化が急務となっているのだ。

アジア太平洋地域における生成AI市場は年間46.46%の成長率を示し、2030年までに867.7億米ドルの規模に達すると予測されている。ガートナー社の調査では、生成AIが組織で導入されているAIソリューションの中で最も重要なテクノロジーと評価され、既存アプリケーションへの組み込み型が34%を占めているのである。

Microsoft Copilotのセキュリティリスク詳細

Vectra AIの詳細はこちら

RAGシステムについて

RAGシステムとは、検索拡張生成（Retrieval Augmented Generation）の略称で、AIが情報を検索・参照しながら回答を生成するシステムのことを指す。主な特徴として、以下のような点が挙げられる。

• 既存データベースから関連情報を検索して回答を生成
• 企業の機密データにアクセスして処理が可能
• 高度な自然言語処理による情報の解釈と生成

RAGシステムはCopilotなどの生成AIアシスタントの中核技術として活用されており、ユーザーからの質問に対して適切な回答を提供するために企業の機密データを参照する必要がある。そのため、アクセス制御や暗号化などのセキュリティ対策が重要な課題となっているのだ。

Microsoft Copilotのセキュリティ対策に関する考察

Microsoft Copilotのセキュリティ課題に対する最も効果的な対策は、アクセス制御の厳格化とデータの暗号化である。組織はゼロトラスト原則に基づいてユーザーアクセスを最小限に制限し、機密ラベルの適用によってデータ保護を強化する必要があるだろう。Microsoft Purviewを活用したデータガバナンスの確立も重要な施策となっている。

今後は生成AIの普及に伴い、より高度なセキュリティ脅威が出現する可能性が高まっている。AIを活用した不正アクセスや情報漏洩の手法が進化する中、セキュリティチームはAI搭載の監視ツールを導入し、異常検知の精度を向上させる必要があるだろう。セキュリティ専門家との連携強化も不可欠となっている。

セキュリティ対策の重要性が増す一方で、生成AIの利便性とのバランスをとることも課題となっている。過度な制限はユーザビリティを損なう可能性があるため、セキュリティと利便性を両立させたソリューションの開発が期待される。今後はAIセキュリティの専門家の育成も重要な課題となるだろう。

参考サイト

1. ^ PR TIMES. 「Vectra AI、企業の情報セキュリティ責任者が懸念するMicrosoft Copilotの課題を明らかに | Vectra AI Japan株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000031.000108014.html, (参照 24-12-05).
2. Microsoft. https://www.microsoft.com/ja-jp

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧