AI

エーアイ

公開：2024-12-24

アクセルとインテルがailia SDKで協力、XMX活用で高速AI推論の処理速度が40%向上

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• アクセルとインテルがailia SDKで高速AI推論の協力を発表
• Intel XMXによってRAGでの処理速度が40%向上
• ailia DX Insightが将来のリリースでXMXをサポート予定

アクセルとインテルのailia SDKによる高速AI推論の実現

アクセルとインテルは、アクセルとそのグループ会社axが開発したAIフレームワークailia SDKを使用した高速AI推論に関するコラボレーションを2024年12月23日に発表した。ailia SDKはクロスプラットフォームフレームワークとして設計され、エッジデバイス上でAIを実行することで安定性の向上と低遅延を実現している。^[1]

インテルとの協力により、ailia SDKはIntel Arc GPUとIntel Core Ultraプロセッサ用のIntel Xe Matrix Extensions（XMX）を使用した高速推論をサポートするようになった。XMX AIエンジンはailia SDKのVulkanバックエンドに推論ワークロードの専用アクセラレーションを提供することで、パフォーマンスの大幅な向上を実現している。

RAGでの文書登録の評価では、Intel Arc A770 GPUでXMXを有効にすることで処理時間が304.5ミリ秒から184.25ミリ秒に短縮され、40%のパフォーマンス向上が確認された。アクセルのDXアプリケーションであるailia DX Insightも将来のリリースでXMXをサポートする予定になっている。

ailia SDKのXMXサポートによる性能向上まとめ

アクセルの公式サイトはこちら

XMXについて

XMXとはIntel Xe Matrix Extensionsの略称で、IntelのGPUアーキテクチャに組み込まれた行列演算に特化した専用AIアクセラレーション技術のことを指す。主な特徴として、以下のような点が挙げられる。

• GPUのXeコア内に構築された専用AIエンジン
• 行列乗算の高速処理に特化した設計
• トランスフォーマーモデルの処理を効率的に実行

XMXは従来のGPU処理と比較して、AI推論ワークロードに対して大幅なパフォーマンス向上を実現することが可能だ。ailia SDKにおいてもXMXを活用することで、RAGでの文書登録処理時間を40%短縮するなど、実用的な性能改善が確認されている。

ailia SDKのXMXサポートに関する考察

ailia SDKがXMXをサポートすることで、エッジデバイスでのAI処理における新たな可能性が広がることが期待できる。特にRAGでの文書登録処理時間が40%短縮されたことは、リアルタイム性が求められるエッジAIアプリケーションの実用化を大きく後押しするだろう。

今後の課題として、XMXに最適化されていないAIモデルへの対応や、異なるハードウェアプラットフォームでの性能最適化が挙げられる。これらの課題に対しては、AIモデルの最適化ツールの提供や、プラットフォーム固有の機能を活用するためのAPIの整備が有効な解決策となるだろう。

将来的には、ailia SDKを活用したエッジAIアプリケーションの普及が期待される。特にailia DX InsightがXMXをサポートすることで、ビジネス向けAIソリューションの性能向上と導入コストの削減が実現できるはずだ。今後のアクセルとインテルの協力関係の発展にも注目が集まる。

参考サイト

1. ^ PR TIMES. 「アクセルとインテルがailia SDKを使用した高速AI推論で協力 | 株式会社アクセルのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000077.000004053.html, (参照 24-12-24).
2. Intel. https://www.intel.co.jp/content/www/jp/ja/homepage.html

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧