AI

エーアイ

公開：2024-12-13

DataRobotが生成AI安全活用ツールを発表、コンプライアンス文書の自動作成とリアルタイム監視機能を実装

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• DataRobotがAIの安全活用に向けた生成AIツールを発表
• コンプライアンス文書の自動作成とバイアステストが可能に
• リアルタイムの監視とガバナンス機能を強化

DataRobotの生成AI安全活用ツールの特徴と機能

DataRobotは企業のAI活用における安全性向上を目指し、コンプライアンス文書の自動作成および公平性やバイアスのテスト機能を2024年12月12日に発表した。新機能によって企業は生成AIアプリケーションの規制やポリシーへの準拠を確保し、安全な導入・拡張が可能になるのだ。^[1]

DataRobotが実施した調査では、AI専門家の45%が成熟したAI組織においてもモデルの信頼性と一貫性の確保が最大の課題だと回答している。この課題に対し、リアルタイムの監視機能と安定したパフォーマンスの保証により、企業のAI活用における懸念事項の解決を目指すだろう。

生成AIアセットの保護として、OpenAIやGoogle Vertex、Microsoft Azure、Databricksを含むアプリケーションに対し、2行のコードでリアルタイムの介入とモデレーション機能を提供する。品質保証テストやベクターデータベースの監視により、AIアプリのセキュリティ要件充足と性能最適化が実現している。

DataRobotの新機能まとめ

オブザーバビリティについて

オブザーバビリティとは、システムの内部状態を外部から観察・把握できる能力のことを指しており、主な特徴として以下のような点が挙げられる。

• システムの振る舞いをリアルタイムで監視可能
• 問題の早期発見と原因特定を実現
• パフォーマンスと信頼性の継続的な最適化を支援

DataRobotの新機能では、生成AIアプリケーションに対するオブザーバビリティフレームワークを実装することで、リアルタイムの介入やモデレーション、ガバナンス機能を提供している。また、ベクターデータベースの監視や生成AIのアクショントレースにより、AIシステムの性能最適化と問題解決を効率的に行うことが可能だ。

参考サイト

1. ^ PR TIMES. 「DataRobot、AIを安全に活用するための生成AIツールを発表 | DataRobot, Inc.のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000115.000030930.html, (参照 24-12-13).
2. Microsoft. https://www.microsoft.com/ja-jp
3. Google. https://blog.google/intl/ja-jp/

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧