AI

エーアイ

公開：2025-05-01

Citadel AIがNEDOのAIセーフティ強化研究開発事業に採択、生成AI安全性評価の新基準確立へ

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• NEDOのAIセーフティ強化研究開発事業に共同提案が採択
• AIセーフティ基準策定と評価技術の開発を推進
• 産総研、コーピーと連携し安全性評価基準を整備

Citadel AIのAIセーフティ研究開発事業採択による技術強化

Citadel AIは国立研究開発法人新エネルギー・産業技術総合開発機構の事業「AIセーフティ強化に関する研究開発」において、産業技術総合研究所とコーピーとの共同提案が2025年4月30日に採択された。生成AIの急速な進展に伴い、その安全性や信頼性を評価する具体的な基準や手段が確立されていない現状を打開するための取り組みが開始されることになった。^[1]

Citadel AIは本事業においてAIセーフティ・インスティテュートや産総研と連携し、AIセーフティの評価基準・評価手法の整理を進めていく。高品質な生成AIアプリケーションの企業向け実装解説の作成や、評価指標の開発と技術検証を通じた有効性の確認も実施されることになった。

AIが様々なビジネスアプリケーションや自動車、ロボット、医療機器からコンシューマープロダクトにまで組み込まれる中、AIの開発・導入における安全性確保は喫緊の課題となっている。本事業を通じて、日本企業の国際競争力強化と安全なAI実装の促進が期待されている。

AIセーフティ研究開発事業の概要

生成AIの安全性評価について

生成AIの安全性評価とは、AIシステムが社会実装される際の信頼性や品質を検証するための技術的な手法のことを指す。以下のような要素が重要となる。

• リスクベースアプローチによる評価基準の策定
• 実環境での検証と評価手法の確立
• 国際標準に準拠した品質管理システムの構築

Citadel AIではAIシステムの品質検証・モニタリングツールを開発しており、生成AIから予測型AIまで幅広く対応が可能である。BSIなどの国際標準業界からも高い評価を受けており、グローバル市場での実績を持つ技術力が本事業でも活かされることになるだろう。

AIセーフティ研究開発事業に関する考察

NEDOによるAIセーフティ研究開発事業の採択は、日本のAI産業における重要な転換点となる可能性を秘めている。特に生成AIの安全性評価基準の確立は、企業がAIを本格導入する際の障壁を取り除き、新たなビジネス機会の創出につながることが期待できるだろう。

一方で、急速に進化するAI技術に対して、評価基準や手法が追いつかないリスクも考えられる。国際標準との整合性を保ちながら、柔軟かつ実効性のある評価システムを構築することが、本事業の成否を決める重要な要素となるはずだ。

産総研やコーピーとの共同研究開発によって生まれる新たな評価技術は、日本のAI産業全体の競争力向上に寄与する可能性がある。今後は評価基準の国際展開や、より広範な産業分野での活用に向けた取り組みの加速が望まれる。

参考サイト

1. ^ PR TIMES. 「NEDO「AIセーフティ強化に関する研究開発」の採択について | 株式会社Citadel AIのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000037.000075720.html, (参照 25-05-01).
1655

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧