公開:

富士通がGPU効率化技術AI computing brokerを発表、AI処理の演算効率が最大2.25倍に向上しGPU不足解消へ

text: XEXEQ編集部
(記事は執筆時の情報に基づいており、現在では異なる場合があります)

富士通がGPU効率化技術AI computing brokerを発表、AI処理の演算効率が最大2.25倍に向上しGPU不足解消へ

PR TIMES より


記事の要約

  • 富士通がGPU効率化技術ACBを開発
  • GPU演算効率が最大2.25倍に向上
  • 複数企業でACB技術の実証実験を開始

富士通がGPU効率化技術ACBを発表、リソース最適化で処理効率が大幅向上

富士通は世界的なGPU不足に対応するため、GPUリソースを効率的に活用できるミドルウェア技術「AI computing broker」を2024年10月に発表した。ACB技術は独自のアダプティブGPUアロケーター技術とAI処理の最適化技術を統合したもので、オンプレミスやクラウド環境で利用可能なシステムとなっている。[1]

複数の企業による先行トライアルでは、GPU単位時間当たりの処理性能が最大2.25倍向上するという効果が確認されている。また、GPUのメモリ管理機能により物理メモリ容量の約5倍となる150GBものメモリを必要とするAI処理を同時に実行できる機能も搭載されている。

トレーダム株式会社やさくらインターネット株式会社など複数の企業がACB技術を採用し実証実験を開始している。AI需要の急増に伴うGPU不足や電力問題への対策として、富士通はAIサービス事業者やクラウドサービス事業者向けに本技術の提供を進めていく方針だ。

AI computing broker技術の特徴まとめ

項目 詳細
処理性能向上 最大2.25倍の処理効率向上を実現
メモリ管理機能 物理メモリの約5倍(150GB)のAI処理が可能
対応環境 オンプレミス環境、クラウド環境に対応
導入企業 トレーダム、さくらインターネット他
主な用途 AI処理、大規模言語モデルの実行
ACB技術の詳細はこちら

アダプティブGPUアロケーターについて

アダプティブGPUアロケーターとは、GPUの計算リソースを動的に割り当てる技術のことを指しており、主な特徴として以下のような点が挙げられる。

  • プログラム実行中でもリアルタイムにGPUを割り振り
  • 高い実行効率が見込める処理を優先的に実行
  • CPUとGPUの計算リソースを最大限活用

富士通が2023年11月に開発したこの技術は、従来のジョブ単位での割当とは異なり、GPU計算単位での動的な資源割当を実現している。GPUメモリの管理機能と組み合わせることで、物理的なメモリ容量を超える多数のAI処理を効率的に実行することが可能となった。

参考サイト

  1. ^ PR TIMES. 「世界的なGPU不足の解決に向け、AI処理におけるGPUの演算効率を高めるミドルウェア技術「AI computing broker」の提供を開始 | 富士通株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000337.000093942.html, (参照 24-10-23).

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧
ブログに戻る

コメントを残す

コメントは公開前に承認される必要があることにご注意ください。