AI

エーアイ

公開：2024-07-26

Mistral AIがMistral Large 2を発表、128kコンテキストウィンドウと多言語サポートで性能向上

text: XEXEQ編集部

記事の要約

• Mistral AIがMistral Large 2モデルを公開
• 128kコンテキストウィンドウと多言語サポート
• コード生成と推論能力が大幅に向上

Mistral Large 2の性能と特徴

Mistral AIは2024年7月24日、最新の大規模言語モデルMistral Large 2を発表した。このモデルは128kコンテキストウィンドウを持ち、フランス語、ドイツ語、スペイン語、イタリア語、ポルトガル語、アラビア語、ヒンディー語、ロシア語、中国語、日本語、韓国語を含む数十の言語をサポートしている。また、Python、Java、C、C++、JavaScript、Bashを含む80以上のコーディング言語にも対応しているのだ。^[1]

Mistral Large 2は、長文脈アプリケーションを念頭に置いた単一ノード推論用に設計されており、123億パラメータのサイズにより単一ノードで高いスループットを実現している。このモデルはMistral Research Licenseの下でリリースされ、研究および非商用利用のための使用と修正が許可されている。商用利用の場合は、Mistral Commercial Licenseを取得する必要がある。

性能面では、Mistral Large 2の事前学習版がMMULで84.0%の精度を達成し、オープンモデルの性能/コスト比のパレートフロントに新たな基準を設定した。コードと推論能力においても、前バージョンのMistral Largeを大きく上回り、GPT-4、Claude 3 Opus、Llama 3 405Bなどの先進モデルと同等の性能を示している。

コンテキストウィンドウとは

コンテキストウィンドウとは、言語モデルが一度に処理できる入力テキストの最大長のことを指しており、主な特徴として以下のような点が挙げられる。

• モデルが理解・生成できる文脈の範囲を決定
• 長文や複雑な対話の処理能力に直結
• 大きいほど長期的な文脈理解が可能に

Mistral Large 2の128kコンテキストウィンドウは、非常に長い文書や複雑な対話を一度に処理できることを意味している。これにより、ユーザーは長文の文学作品の分析や、多数のターンを含む詳細な技術的対話など、より広範な文脈を必要とするタスクをモデルに依頼することが可能になる。大きなコンテキストウィンドウは、モデルの応用範囲を大幅に拡大し、より自然で文脈に即した応答を生成する能力を向上させるのだ。

Mistral Large 2に関する考察

Mistral Large 2の登場により、AIモデルの性能競争がさらに激化する可能性が高い。特に、コスト効率と性能のバランスが重視される中、Mistral Large 2のような効率的なモデルが市場で優位性を持つ可能性がある。一方で、128kという大きなコンテキストウィンドウを活用するためには、適切なプロンプト設計やアプリケーション開発が必要となり、開発者にとっては新たな挑戦となるだろう。

今後、Mistral Large 2には更なる多言語サポートの拡充や、特定のドメイン（医療、法律、金融など）に特化したファインチューニングモデルの提供が期待される。また、モデルの解釈可能性や説明可能性の向上も重要な課題となるだろう。AIの民主化が進む中、Mistral AIのようなスタートアップ企業がオープンなライセンスでモデルを公開することは、イノベーションを加速させる可能性がある。

Mistral Large 2の商用ライセンスの詳細や価格設定も、今後の普及に大きな影響を与えるだろう。企業がこのモデルを採用するかどうかは、コスト、パフォーマンス、そしてカスタマイズ性のバランスに依存する。Mistral AIが提供するサポートや開発ツールの充実度も、モデルの採用率を左右する重要な要因となるはずだ。

参考サイト

1. ^ MISTRAL AI. 「Large Enough | Mistral AI | Frontier AI in your hands」. https://mistral.ai/news/mistral-large-2407/, (参照 24-07-26).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧