AI

エーアイ

公開：2025-05-27

SherLOCK社、生成AI脆弱性テスト結果を2025年人工知能学会全国大会で発表、AI安全性向上に貢献

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• SherLOCK株式会社が生成AIの脆弱性テスト結果を発表
• 2025年人工知能学会全国大会で国際共同レッドチーミングテストの成果を公開
• AIセーフティ・インスティテュート（Japan AISI）および国立情報学研究所（NII）と連携

SherLOCK株式会社の生成AI脆弱性テスト結果発表

SherLOCK株式会社は、生成AI特有の脆弱性をテストするための国際共同レッドチーミングテストの結果を、2025年人工知能学会全国大会にて発表する予定だ。このテストは、日本のAI安全性研究の中核を担うAIセーフティ・インスティテュート（Japan AISI）および国立情報学研究所（NII）と連携し、AISI Global Networkが推進する国際的なAIレッドチーミングテスト「International Network of AI Safety Institutes Joint Testing Exercise」として実施されたのだ。

同社はAIセキュリティ領域の専門性を活かし、AIの安全な社会実装とAIセキュリティ研究の最前線において、国際的な取り組みへの貢献やパブリックセクターへの貢献を拡大している。今回の国際的なJoint Testingへの参加は、AIシステムの潜在的な脆弱性や悪用リスクを事前に特定・評価するためのAIレッドチーミングテスト実施や、企業が生成AIを活用する際に活用するガードレールツールの開発・提供といった同社の取り組みを基に行われたのだ。

特に、シンガポールAISIとJapan AISIが共同リードを務めた「AISI国際ネットワーク会合・技術トラック」のトラック2において、基盤モデルの安全性評価を実施し、各国が実施したAI安全性に関する技術的な成果を持ち寄り、活発な意見交換を行った。この成果は、国際的なAI安全性に関する技術的理解の促進や今後の社会実装に貢献するものである。

国際共同レッドチーミングテスト概要

2025年度 人工知能学会全国大会

AIレッドチーミングテストについて

AIレッドチーミングテストとは、AIシステムの潜在的な脆弱性や悪用リスクを事前に特定・評価するためのテスト手法である。攻撃者の視点を取り入れ、AIシステムに対する様々な攻撃を試みることで、システムの弱点を見つけ出し、改善につなげることを目的とする。

• 脆弱性発見
• リスク評価
• セキュリティ強化

生成AIの高度化に伴い、新たな攻撃手法やリスクも増加しているため、AIレッドチーミングテストはますます重要性を増しているのだ。

生成AIの脆弱性テストに関する考察

今回の国際共同レッドチーミングテストは、生成AI特有の脆弱性を明らかにし、安全なAI開発・運用に貢献する上で大きな意義を持つ。テスト結果の公開によって、生成AIのセキュリティに関する国際的な議論が活発化し、より安全なAI社会の実現に繋がるだろう。しかし、生成AI技術は日々進化しており、新たな脆弱性が発見される可能性も高い。

そのため、継続的な監視とテスト、そして脆弱性対策のアップデートが不可欠である。また、AI開発者、研究者、政策立案者間の連携強化も重要であり、国際的な協力体制の構築が求められる。生成AIの利便性と安全性を両立させるためには、技術的な進歩と社会的な合意形成の両面からの取り組みが必要となるだろう。

今後、より高度な攻撃手法に対応できるテスト方法の開発や、AIシステムの設計段階からのセキュリティ考慮、そしてAIセキュリティに関する教育・啓発活動の推進などが期待される。これらの取り組みを通じて、人々が安心して生成AIを活用できる社会の実現を目指していく必要があるのだ。

参考サイト

1. ^ PR TIMES. 「AIセキュリティスタートアップSherLOCK 生成AI特有の脆弱性をテストするための国際共同レッドチーミングテストの成果を2025年人工知能学会全国大会にて発表 | SherLOCK株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000015.000145146.html, (参照 25-05-27).
2687

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧