AI

エーアイ

公開：2024-07-20

SDTがオフライン環境で使える生成AI「Panorama AI Box」をリリース、工場や病院での活用に期待

text: XEXEQ編集部

記事の要約

• SDTがインターネット接続不要の生成AI「Panorama AI Box」をリリース
• 工場や病院などセキュリティ要求の高い環境での生成AI活用が可能に
• ELYZAの大規模言語モデルを使用し、内部データと連携可能

Panorama AI Boxの特徴と活用シーン

Panorama AI Boxは、インターネット接続環境がなくても生成AIを活用できるシステムだ。高度なセキュリティが要求される工場や病院といった環境でも、生成AIの導入を可能にする画期的な製品となっている。従来の生成AIサービスがインターネット接続を前提としていたのに対し、本製品はオフライン環境下でも利用できる点が最大の特徴である。^[1]

Panorama AI Boxは、株式会社ELYZAが提供する大規模言語モデル「Llama-3-ELYZA-JP-8B」を採用している。このモデルはオープンで一般公開されているため、インターネット接続のないオンプレミス環境でもダウンロードして利用することが可能だ。さらに、検索拡張生成（RAG）技術を駆使してELYZAと内部データを組み合わせることで、工場や病院内の特殊な環境下でも高精度な生成AIの活用を実現している。

本製品の活用シーンは多岐にわたる。製造業では、生産ラインの設備マニュアルや過去の故障履歴と連携させることでトラブルシューティングや予防保全に活用できる。医療機関では、過去のインシデントレポートを分析し、将来起こりうるリスクの軽減に役立てられる。自治体においても、機密性の高い行政文書や議会議事録と連携させることで、政策立案や行政サービスの改善に貢献することが期待される。

検索拡張生成（RAG）技術とは

検索拡張生成（RAG）とは、Retrieval-Augmented Generationの略称であり、大規模言語モデル（LLM）がテキストを生成する際に外部情報の検索を組み合わせる技術を指す。この技術により、LLMが持たない情報を補完し、回答の精度を向上させることが可能となる。

• LLMの知識と外部データを組み合わせて高精度な回答を生成
• 最新情報や専門的なデータを活用して回答の質を向上
• 企業や組織固有の情報を取り込んでカスタマイズされた回答を提供
• プライバシーやセキュリティを考慮した情報利用が可能
• 常に最新のデータを参照することで、古い情報による誤った回答を防止

RAG技術を活用することで、Panorama AI Boxは内部データを効果的に検索し、その内容に基づいた精度の高い回答を生成することができる。これにより、ユーザーは組織固有の知識や最新の情報を反映した、より適切で有用な回答を得ることが可能となる。

Panorama AI Boxに関する考察

Panorama AI Boxの登場により、これまで生成AIの恩恵を受けられなかった高セキュリティ環境での活用が可能となった。今後は、より多くの産業分野でのAI導入が加速し、業務効率化やサービス品質の向上につながる可能性が高い。一方で、オフライン環境での利用を前提としているため、最新の外部情報との連携や、モデルの定期的な更新方法が課題となる可能性がある。

今後追加してほしい機能としては、他の言語モデルとの互換性や、複数のAI Boxを連携させたネットワーク構築機能が挙げられる。これにより、より柔軟なシステム構築や、組織全体での知識共有が可能となるだろう。また、セキュリティ面では、データの暗号化やアクセス制御のさらなる強化も期待される。

Panorama AI Boxの恩恵を最も受けるのは、高度なセキュリティ要求を持つ組織や、コンプライアンス上の制約からクラウドベースのAIサービスを利用できなかった企業だ。一方で、AIモデルの開発や保守を担当する技術者にとっては、新たなスキルセットの獲得が必要となる可能性がある。オフライン環境でのAI運用に関する知識や経験が、今後重要性を増すことが予想される。

参考サイト

1. ^ PR TIMES. 「インターネット接続環境がなくても生成AIを活用できる「Panorama AI Box」をリリース | SDT株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000013.000072986.html, (参照 24-07-20).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧