NVIDIAがAI Foundryでカスタムのllama3.1構築サービスを提供企業向け生成AIモデルの開発が加速

text: XEXEQ編集部

PR TIMES より

記事の要約
NVIDIA AI Foundryによるカスタム生成AIモデル構築サービス
Llama 3.1とは
NVIDIA AI Foundryに関する考察
参考サイト

記事の要約

NVIDIA AI Foundryが企業向けカスタムLlama 3.1モデル構築サービス提供
Accentureが初めてカスタムLlama 3.1モデルを顧客向けに構築
NVIDIA NIMマイクロサービスでLlama 3.1モデルの推論性能が向上

NVIDIA AI Foundryによるカスタム生成AIモデル構築サービス

NVIDIAは、企業や国家向けにカスタムの生成AIモデルを構築するNVIDIA AI Foundryサービスを発表した。このサービスでは、Llama 3.1 405BモデルやNVIDIA Nemotronモデルと企業独自のデータを組み合わせて、ドメイン固有の「スーパーモデル」を作成することが可能になる。NVIDIA AI Foundryは、データのキュレーションから合成データ生成、ファインチューニング、検索、ガードレール、評価まで包括的なサービスを提供している。^[1]

NVIDIA AI Foundryの特徴として、NVIDIA DGX Cloud AIプラットフォームを活用し、需要の変化に応じて簡単にスケールアップできる点が挙げられる。このサービスにより、企業は独自のビジネスや文化を反映した生成AIアプリケーションを構築できるようになる。さらに、Llama 3.1モデル用のNVIDIA NIM推論マイクロサービスも提供され、従来の方法と比べて最大2.5倍のスループットを実現している。

Accentureは、NVIDIA AI Foundryを初めて採用し、自社及び顧客向けにカスタムLlama 3.1モデルを構築した企業である。このサービスを通じて、Accentureは文化、言語、業界を反映した生成AIアプリケーションの展開を目指している。NVIDIAのエコシステムパートナーも、新しいNVIDIA NIMマイクロサービスを活用して、生成AIソリューションを強化することが可能になった。

	NVIDIA AI Foundry	NVIDIA NIMマイクロサービス	Accentureの取り組み
主な機能	カスタムAIモデル構築	高速推論処理	顧客向けモデル構築
使用モデル	Llama 3.1、Nemotron	Llama 3.1	Llama 3.1
特徴	包括的なサービス提供	最大2.5倍のスループット	業界特化型モデル
対象ユーザー	企業、国家	開発者、企業	Accenture顧客
提供形態	クラウドサービス	ダウンロード可能	コンサルティング

Llama 3.1とは

Llama 3.1とは、Metaが開発したオープンで利用可能な大規模言語モデル（LLM）のコレクションのことを指しており、主な特徴として以下のような点が挙げられる。

8B、70B、405Bのパラメータサイズのモデルが提供
多言語対応の生成AIモデル
NVIDIAのハードウェアとソフトウェアに最適化

Llama 3.1は、16,000基を超えるNVIDIA H100 Tensor Core GPUを使用してトレーニングされており、NVIDIAのデータセンター、クラウド、ワークステーション、PCなど、様々なプラットフォームで動作するように最適化されている。このモデルは、企業が独自のAIアプリケーションを構築する際の基盤として活用できるオープンなリソースとなっている。

NVIDIA AI Foundryに関する考察

NVIDIA AI Foundryの登場により、企業や国家が独自のAIモデルを構築する障壁が大幅に低下すると予想される。しかし、カスタムモデルの作成と運用には、データの品質管理やモデルの継続的な更新など、新たな課題も生じる可能性がある。企業は、これらの課題に対応するため、AIの専門知識を持つ人材の育成やAI倫理に関するガイドラインの策定にも注力する必要があるだろう。

今後、NVIDIA AI Foundryには、より多様な産業分野に特化したテンプレートモデルの提供や、モデルの解釈可能性を高める機能の追加が期待される。また、AIモデルの省エネルギー化や計算リソースの最適化など、環境負荷を低減させる技術の開発も重要な課題となるだろう。これらの機能強化により、企業はより効率的かつ責任あるAI活用を実現できるようになるはずだ。

NVIDIA AI Foundryの普及により、AIの民主化が一層進むと考えられる。しかし、その一方で、AIモデルの品質や信頼性の確保、データプライバシーの保護など、新たな規制や標準化の必要性も高まるだろう。業界全体で、これらの課題に対する議論を深め、適切なガイドラインや法的枠組みの整備を進めることが、持続可能なAIエコシステムの構築につながる。