AI

エーアイ

公開：2024-12-17

MicrosoftがPhi-4を発表、14Bパラメーターの小規模モデルで数学的推論能力が大幅に向上

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• MicrosoftがPhi-4モデルを発表
• 14Bパラメーターの小規模言語モデルを実現
• 数学的推論で大規模モデルを上回る性能を実現

Microsoftが小規模言語モデルPhi-4を発表

米Microsoftは2024年12月13日、小規模言語モデル「Phi-4」を発表した。Phiファミリーの新モデルとして登場したPhi-4は14Bパラメーターという小規模なサイズながら、従来の言語処理に加えて数学などの複雑な推論タスクで優れた性能を発揮することが特徴となっている。^[1]

Phi-4は高品質なデータセットの活用や精緻なデータキュレーション、最新のポストトレーニング手法の導入により、数学的推論において同規模や大規模なモデルを凌駕する性能を実現している。特に数学競技問題においては、Gemini Pro 1.5といった大規模言語モデルをも上回る結果を示すことに成功した。

現在Phi-4はMicrosoft Research License Agreement（MSRLA）に基づいてAzure AI Foundry上で提供されており、今週中にはHugging Faceでも公開される予定となっている。開発者は堅牢な責任あるAI機能や、コンテンツの安全性を確保する各種機能も活用することが可能だ。

Phi-4の性能まとめ

小規模言語モデルについて

小規模言語モデルとは、比較的少ないパラメーター数で構築された軽量な言語モデルのことを指す。主な特徴として、以下のような点が挙げられる。

• 少ないコンピューティングリソースで動作可能
• 高速な応答性能を実現
• 特定タスクに特化した最適化が容易

小規模言語モデルは大規模言語モデルと比較して限定的な能力を持つものの、特定のタスクに特化させることで高い性能を発揮することが可能となっている。Phi-4は数学的推論という特定領域において、より大規模なモデルを凌駕する性能を示すことに成功している。

Phi-4に関する考察

Phi-4の登場は、言語モデルの小型化と高性能化の両立という観点で画期的な成果といえる。高品質なデータセットとポストトレーニング手法の革新により、特定タスクにおいて大規模モデルを上回る性能を実現したことは、今後の言語モデル開発の方向性に大きな示唆を与えるだろう。

一方で、特定タスクへの特化は汎用性の制限につながる可能性も懸念される。Phi-4が数学的推論以外のタスクでどの程度の性能を発揮できるのか、また実際の応用シーンでどのような制約が生じるのかについては、さらなる検証が必要となるだろう。

今後は、Phi-4の特徴を活かした実用的なアプリケーションの開発が期待される。特に教育分野やリソースの限られた環境での活用において、Phi-4は重要な役割を果たす可能性を秘めている。

参考サイト

1. ^ Microsoft Teams Blog. 「Introducing Phi-4: Microsoft’s Newest Small Language Model Specializing in Complex Reasoning | Microsoft Community Hub」. https://techcommunity.microsoft.com/blog/aiplatformblog/introducing-phi-4-microsoft%E2%80%99s-newest-small-language-model-specializing-in-comple/4357090, (参照 24-12-17).
2. Microsoft. https://www.microsoft.com/ja-jp

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧