AIの返答が一度で終わらず、長い資料を読み、ツールを呼び、次の手順へ進む。そんな使い方が増えるほど、AIを速くする課題は「より大きいチップを載せる」だけでは済まなくなります。
Microsoftが発表したMaia 300は、まさにその推論処理を意識した次世代のAI基盤です。チップ、メモリ、ラック、ネットワーク、電力、冷却をまとめて設計し、2027年からAzure Maiaをマルチギガワット規模へ広げる計画を示しました。
注目したいのは、Maia 300が「新しいAIチップ」だけの話ではないことです。
長文の推論や複数ステップのAIエージェントでは、計算機そのものより、データをどこへ置き、どう動かし、どの電力と冷却で支えるかが体験を左右します。
Maia 300は、何のための推論基盤？
Microsoftの発表によると、Maia 300はAzure向けの次世代AI推論プラットフォームです。学習済みモデルに質問を渡し、答えを返す「推論」を、大規模サービスでより効率よく回す役割を担います。
狙う処理は、短いチャットだけではありません。設計の詳細では、長いコンテキストを扱う推論、応答時間に敏感な対話、複数ステップを継続するエージェント処理を挙げています。途中の文脈を何度もメモリと計算機の間で動かすほど、待ち時間と消費電力が積み上がるからです。
AIサービスの「速い・遅い」は、演算性能だけで決まりません。長い会話の状態を近くに置けるか、複数の処理を途切れず渡せるかまで含めて、初めて推論の設計になります。
HBM4とチップレットで、データ移動を短くする
Maia 300は、1アクセラレーターに8基のHBM4を載せ、288GBの容量と18TB/sのメモリ帯域を持つとMicrosoftは説明します。大きなモデルや長い会話で使う状態を、演算器から遠い場所へ取りに行く回数を減らすための構成です。
チップも一枚岩ではなく、演算用とメモリ制御・I/O用の役割を分けた複数チップレットで構成されます。ソフトウェア側がデータの配置や移動を明示的に扱う設計と組み合わせ、必要な情報を使う計算機の近くへ置く考え方です。
AIサーバーでメモリが主役になる理由は、MicronのAIメモリ記事でも触れた通りです。モデルを大きくするだけでなく、読み書きの渋滞をどう避けるかが、同時に使える人の数や返答の安定性につながります。
288GBや18TB/sは、一般向けPCの仕様表ではありません。
クラウド側で多くの推論要求を抱えるための設計値です。手元のAIソフトが同じ数値を必要とする、という意味ではありません。
96アクセラレーターは、ラックの中でどう協力する？
Microsoftの説明では、Maia 300のラックは96アクセラレーターを24の4アクセラレーター・トレイに収め、167kWの電力枠で動かす構成です。ラックの内側では直接接続とスイッチを組み合わせ、さらにラックをまたいで最大12,288アクセラレーターのsuperpodへ広げられるとしています。
ここで重要なのは、処理を急に外部へ出して戻すのではなく、同じ通信の考え方をラック内からsuperpodまでつなげようとしている点です。短い要求を先に通すため通信を調整するHomaのように、AIクラスタの待ち時間は演算の外側にある重要なテーマです。
複数のアクセラレーターを増やしても、全員が同じデータを待てば速くなりません。処理に近い場所で通信を完結させる範囲を広く取ることが、長い推論では効いてきます。
速さの裏側にある、電力と液冷の仕事
96アクセラレーターを高密度に動かせば、発熱と給電もラックの設計問題になります。Maia 300では、アクセラレーター、電圧レギュレーター、スイッチASICなどの熱負荷の80％超を液冷で取り除く設計を掲げています。残るメモリやストレージなどは空冷で支える、二つの冷却方式を組み合わせる構成です。
電力も、二重の給電系統とラック内のバスバーで分配し、どの処理へどれだけ使うかをテレメトリーで見ます。ラックの性能だけを見ても足りず、データセンターにある電力・水・冷却能力に合わせて、仕事の置き場所を変える必要があるためです。
Microsoftが示す「Maia 200比で最大7倍のラック規模のトークン処理量」「性能/電力は2.5倍超」は、同社による設計・想定上の比較値です。
異なるクラウドやGPUとの一律比較、利用者の体感速度を保証する数値として読むべきではありません。
使う側は、何を見ればいい？
Maia 300は2027年からの展開計画であり、現時点で利用者が型番を指定して使う製品ではありません。それでも、AIの使い方が単発の質問から、長い資料・複数のツール・連続した作業へ進むほど、クラウドが何を最適化しようとしているかを知る材料になります。
これから注目したいのは、派手なモデル名だけではありません。長い文脈で回答が途切れないか、混雑時に待ち時間がどう変わるか、運用側が電力と冷却を含めて容量を増やせるか。Maia 300は、AIの「頭脳」を大きくする競争が、データを運ぶ道と支える設備の競争にもなっていることを示す一例です。
次のAIインフラは、チップの名前だけでは読めません。
メモリ、通信、電力、冷却を一つの流れとして設計できるか。その積み重ねが、長い推論とAIエージェントを日常のサービスへ載せる土台になります。
