AI

エーアイ

公開：2025-01-21

リッジアイとジーデップ・アドバンスがローカルRAGスターターBOXを共同開発、セキュアなLLM開発環境の構築が可能に

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• リッジアイとジーデップ・アドバンスがローカルRAGスターターBOXを共同開発
• GPUを活用したオンプレミス環境でのLLM開発が可能に
• セキュアな環境で機密データを活用したRAG構築を実現

リッジアイとジーデップ・アドバンスによるLLM開発システムの共同開発

リッジアイとジーデップ・アドバンスは、オンプレミス環境でユーザー固有の文書やデータを活用したRAGを実装可能なシステム「ローカルRAGスターターBOX」を2025年1月20日より受注開始した。国内生成AI市場は2028年度に1兆7397億円規模になると予測され、2023年度比で12.3倍となるAI市場のおよそ6割が生成AIになると予測されている。^[1]

ローカルRAGスターターBOXは、NVIDIA Ada LovelaceアーキテクチャのRTX Adaシリーズを搭載し、最大48GBのGDDR6メモリと広帯域なNVLINKを組み合わせることで高いAI学習性能及び推論性能を実現している。開発環境にはDify OpenWebUIとOllama Xinferenceを実装し、2024年に発表されたLlama 3.1をはじめとした複数のモデルをプリインストールしている。

本システムはLLM・RAGの研究開発に最適なハードウェアとライブラリを予め用意しており、クラウド接続が不要なローカル環境上でのLLMの利用やRAGの実装が可能となっている。リッジアイのAI開発に関するQ&Aが利用できるバウチャーチケットが付属しており、AI専門家からのサポートを受けながら精度の高いLLM・RAGの構築が行える。

ローカルRAGスターターBOXの特徴まとめ

製品の詳細はこちら

RAGについて

RAGとは「Retrieval-Augmented Generation」の略称で、大規模言語モデル（LLM）の生成能力を向上させる技術のことを指す。主な特徴として以下のような点が挙げられる。

• 外部データベースから関連情報を検索し生成に活用
• ハルシネーション（誤情報生成）の抑制が可能
• 最新かつ正確な情報に基づく応答を実現

ローカルRAGスターターBOXでは、企業や研究機関が保有する機密性の高い学習データをイントラ内で活用することができ、セキュリティを確保しながらRAGの実装が可能となっている。クラウドサービスでは制限のあった機密データの活用や、コスト面での課題を解決することができる。

ローカルRAGスターターBOXに関する考察

ローカルRAGスターターBOXの登場により、企業や研究機関は機密データを活用したLLM開発を安全に進められるようになった。特にセキュリティポリシーの厳しい組織でも、クラウドサービスを利用せずにAI開発環境を構築できることは大きな利点となるだろう。一方で、ハードウェアの導入コストや運用・保守の負担が新たな課題となる可能性がある。

今後はAIモデルの進化に伴い、より高性能なGPUやメモリが必要となる可能性が高く、ハードウェアのアップグレード対応が重要となってくるだろう。システムの拡張性と柔軟性を活かし、将来的な要件にも対応できる構成を検討する必要がある。また、RAG技術の発展により、より高度な知識処理や情報活用が可能になることが期待される。

さらに、AI開発の民主化が進む中で、ローカルRAGスターターBOXのような統合環境の需要は増加すると予想される。AI専門家によるサポート体制の充実や、より使いやすい開発環境の提供など、ユーザビリティの向上も重要な課題となるだろう。

参考サイト

1. ^ PR TIMES. 「AI・ディープラーニング技術開発のリッジアイとAIソリューションプロバイダのジーデップ・アドバンス、LLM開発システム「ローカルRAGスターターBOX」を共同開発・受注開始 | 株式会社Ridge-iのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000086.000026963.html, (参照 25-01-21).
2. NVIDIA. https://www.nvidia.com/ja-jp/

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧