AI

エーアイ

公開：2024-11-26

ゲットワークスがNVIDIA GPU H200搭載サーバーの運用を開始、生成AI向け演算処理の高速化と省電力化を実現

text: XEXEQ編集部
（記事は執筆時の情報に基づいており、現在では異なる場合があります）

記事の要約

• ゲットワークスがNVIDIA GPU H200搭載サーバーの運用を開始
• 演算メモリ61GB増加とメモリ帯域幅43％向上を実現
• 検証・開発環境を企業・大学・研究機関へ提供

NVIDIA GPU H200搭載サーバーの運用開始によりAI開発環境が強化

株式会社ゲットワークスは新潟県湯沢町の湯沢GXデータセンターにおいて、NVIDIA GPU H200搭載サーバーの運用を2024年11月25日に開始した。従来のNVIDIA GPU H100と比較して演算用メモリが61GB増加し、メモリ帯域幅が約43%向上したことで、生成AIの推論処理時間を大幅に短縮することが可能になっている。^[1]

湯沢GXデータセンターでは水冷サーバーの稼働環境構築も完了しており、近日中に水冷サーバーの導入と稼働が予定されている。今回導入されたH200サーバーは空冷タイプであるが、消費電力の効率化が進んでおり、増加した演算能力に対する消費電力の増加を大きく抑制することに成功したのだ。

サーバーは1台（GPU×8枚）ごとの占有貸しまたはGPU1枚単位の共有貸しで利用可能となっており、企業や大学、研究機関などへ検証・開発環境を提供する。GPUサーバー以外にも顧客所有のストレージやネットワーク機器等を持ち込んで独自の検証環境を構築することも可能だ。

NVIDIA GPU H200搭載サーバーのスペック一覧

ゲットワークスの詳細はこちら

メモリ帯域幅について

メモリ帯域幅とは、プロセッサとメインメモリ間でデータを転送する際の速度を表す指標であり、主な特徴として以下のような点が挙げられる。

• 1秒間に転送できるデータ量を示す重要な性能指標
• AIや機械学習の処理速度に直接影響を与える要素
• GPUの演算性能を最大限に引き出すための重要な要素

NVIDIA GPU H200ではメモリ帯域幅が従来のH100と比較して約43%向上している。この改善により生成AIにおける推論処理の高速化が実現され、より大規模なAIモデルの効率的な運用が可能になった。

NVIDIA GPU H200搭載サーバーに関する考察

NVIDIA GPU H200搭載サーバーの導入は、生成AIの開発における処理速度の向上と消費電力の効率化を両立させた点で画期的である。特にメモリ帯域幅の43%向上により、大規模言語モデルの学習や推論において従来よりも高速な処理が可能になったことは、AI開発の加速に大きく貢献するだろう。

導入されたH200サーバーは現在空冷タイプだが、今後水冷サーバーの導入も予定されている点は注目に値する。水冷システムによる冷却効率の向上は、さらなる省電力化とサーバールームの空調コスト削減につながる可能性が高いのだ。水冷サーバーの本格導入により、データセンター全体の運用効率が大きく改善されることが期待できる。

企業や研究機関へのGPU占有貸しやGPU単位での共有貸しという柔軟な利用形態の提供は、AIの実証実験や開発を促進する重要な要素となるだろう。特に独自の検証環境構築が可能な点は、多様なニーズに対応できる強みとなっている。今後はこうした環境を活用した新たなAIサービスやソリューションの創出に期待が高まる。

参考サイト

1. ^ PR TIMES. 「ゲットワークス、「NVIDIA GPU H200」搭載サーバーの運用を開始。 | 株式会社ゲットワークスのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000008.000141706.html, (参照 24-11-26).
2. NVIDIA. https://www.nvidia.com/ja-jp/

※上記コンテンツはAIで確認しておりますが、間違い等ある場合はコメントよりご連絡いただけますと幸いです。

「AI」に関するコラム一覧「AI」に関するニュース一覧