AIエージェントが社内の機密情報を読み、長い資料や大量のコードを扱う。そのとき必要になるのは、計算の速さだけではありません。処理中のデータをどう守り、必要な情報をどう素早くチップに届けるかも重要です。
Googleが発表した「TPU 8tx」と「TPU 8i Max」は、この二つの課題にそれぞれ向き合うシステムです。前者は機密性を重視し、後者は2つのチップを組み合わせて演算とメモリ帯域を拡大します。
どちらも第8世代TPUを基にした新しいシステム構成です。新しい半導体を一から2種類設計した、という発表ではありません。
TPUの「チップ」と「システム」は何が違う？
TPUはGoogleがAI処理向けに設計したアクセラレーターです。同じ演算チップでも、周囲に組み合わせるCPU、メモリ、ネットワークや保護機能によって、得意な仕事は変わります。
Googleの発表によると、既存のTPU 8tは大規模な学習、8iは低遅延の推論を重視した構成です。新しい8txと8i Maxは、これらを土台に別の要求へ応えようとしています。
選ぶ軸は「どちらが新しいか」より、機密性を重視するか、大きな文脈を扱うための演算・メモリ帯域を重視するかです。
TPU 8txは処理中の情報を守る
保存中や通信中のデータは暗号化できても、計算する瞬間にはメモリ上で使える状態にする必要があります。機密情報をAIに扱わせる企業にとって、この処理中の保護は大切な課題です。
TPU 8txは8tと同じシリコンを使い、カスタムAMD CPUをホストとして組み合わせます。Googleはハードウェア層でデータとモデルの重みを、使用中も保護・分離する設計と説明しています。機密性が求められる推論や、小規模な学習を想定した構成です。
例えば社内資料を使ってモデルを調整する場合、保護された環境で推論と追加学習を行えることは検討材料になります。ただし、ハードウェアが保護を担っても、誰にアクセスを許すか、入力や出力をどう管理するかは別に設計する必要があります。
保護機能があることと、設定や権限管理を含めた運用全体が自動的に安全になることは別です。
TPU 8i Maxは2チップでメモリの壁に挑む
長い文書や大きなコードベースをAIが扱うとき、計算器が速くても、必要なデータを供給するメモリの帯域が足りなければ処理が滞ります。これが「メモリの壁」と呼ばれる課題の一つです。
8i Maxでは、2つのTPU 8iチップを一つのパッケージに組み合わせます。Googleによれば、8iと比べて演算能力、チップ上のSRAM、高帯域メモリ（HBM）の帯域をそれぞれ2倍にしています。
2倍という数字は公表された構成上の比較です。あらゆるAIアプリの実行時間が半分になると約束する数字ではありません。
長い文脈を必要とするエージェントでは、モデルの中間情報をどれだけ効率よく保持し、運べるかが重要になります。演算部分だけでなく帯域も一緒に増やすのは、その供給不足を抑えるための設計です。
数字とソフトウェアをどう読む？
8txについてGoogleは、低遅延ネットワークを組み合わせることで、8tと比べて最大2倍低いレイテンシーを実現すると説明しています。ただし、これは同社の比較であり、すべてのモデルや利用条件で同じ結果が出るとは限りません。
実際の導入では、モデルの種類、同時利用数、データの長さ、ネットワークや料金を含む条件が体感速度と費用に影響します。発表だけから利用可能な地域や価格を決めつけず、導入時の公式案内を確認したいところです。
ソフトウェア側ではPyTorchからTPUを使いやすくする取り組みも進んでいます。以前紹介したGoogleのTorchTPUは、その実行環境を理解する手がかりです。今回の話題は、そうしたソフトウェアが動く基盤の選択肢に関わります。
AI基盤は用途に合わせて選ぶ時代へ
8txは機密性、8i Maxは大きな文脈と演算密度という異なる要求を前面に出しました。どちらも、単にチップを速くするだけでなく、CPUやメモリ、ネットワークを含むシステム全体を組み合わせた提案です。
導入を考えるなら、自分のワークロードで必要な保護、文脈の長さ、応答時間、提供条件を並べて評価することが出発点になります。
AIエージェントが扱う仕事が広がるほど、性能の数字だけでは選べません。データを守りながら必要な情報を届けるという二つの課題が、次のAI基盤を見比べる鍵になりそうです。
