AI

エーアイ

公開：2025-02-18

Nishikaがオフライン環境用AIチャット・RAGソフトウェアを提供開始、社内情報の安全なAI活用を実現

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• Nishikaがオフライン環境用AIチャットソフトを提供開始
• 社内情報を活用したRAGアプリケーションを実現
• LLMの性能を最大限引き出す3つの工夫を実装

オフライン環境で動作するAIチャット・RAGソフトウェアの提供開始

Nishika株式会社は、オフライン環境で生成AIの性能を最大限に引き出したAIチャット・RAGソフトウェア「AIコンシェルジュ for オフライン」を2025年2月17日に提供開始した。パブリックな環境でのインターネット通信に不安を持つ企業向けに、社内情報を活用したAIコミュニケーションを実現するソリューションとなっている。^[1]

オフライン環境という制限がある中でLLMの性能を最大限引き出すため、日本語チャット体験に最適化されたLLMとベクトル検索モデルを標準搭載している。さらにエクセルなどスパースな構造を持つ文書からも効率的に情報を抽出できる前処理機能を実装することで、入力トークンの無駄な消費を抑制している。

また自社データを学習させた独自の生成AIを開発できるオプションサービス「クラフト生成AI」も提供開始した。自社プロダクト「SecureMemo」でのオフラインAI要約機能開発の知見を活かし、ファインチューニングやインストラクションチューニングを実施することで、より高度なAI活用を実現できる。

AIコンシェルジュ for オフラインの特徴まとめ

RAGについて

RAGとは「Retrieval-Augmented Generation」の略称で、大規模言語モデル(LLM)に外部知識を組み合わせて精度の高い回答を生成する技術のことを指す。主な特徴として以下のような点が挙げられる。

• 外部データベースから関連情報を検索して回答を生成
• 最新の情報や専門知識を活用した正確な応答が可能
• 企業の機密情報などプライベートな情報との連携に適している

オフライン環境でのRAG実装においては、ベクトル検索モデルの選定と文書の前処理が重要な要素となっている。AIコンシェルジュ for オフラインでは、検索精度と処理速度のバランスを考慮した2つのベクトル検索モデルを搭載し、様々なユースケースに対応できる柔軟性を実現している。

参考サイト

1. ^ PR TIMES. 「【オフライン環境で生成AI活用】生成AIの性能を最大限に引き出したAIチャット・RAGソフトウェア「AIコンシェルジュ for オフライン」リリース | Nishika株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000043.000052152.html, (参照 25-02-18).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧