ニュース

グーグル、AI用「TPU 8tx/8i Max」発表 AMD製CPUで機密保護

 グーグルは10日、AIの計算処理を担う専用チップ「TPU(Tensor Processing Unit)」の第8世代の新たな製品群として、「TPU 8tx」と「TPU 8i Max」を発表した。

機密性の高い推論に向けた「TPU 8tx」

 「TPU 8tx」は、ハードウェアの段階からデータ保護の仕組みを直接組み込んだ推論向けシステム。既存の大規模学習向けチップ(TPU 8t)と同じ半導体基盤にAMD製CPUを組み合わせる。

 CPUはAMDの第5世代「EPYC」で、同社の独自技術「SEV(Secure Encrypted Virtualization)」を活用。メモリー上でデータを処理している最中であっても、機密データやAIモデルのデータを分離して保護できる。

 これにより、厳格な規制環境下にある企業や政府機関でも、自律的に動作するAIを安全に実行可能。

 単一のシステム上で、別の計算サーバー群(クラスター)へデータを移行させることなく、機密データを用いた推論や微調整などの学習を同時に進められる。

 また、データの送受信を高速化する通信機構を採用しており、同世代の大規模学習向けチップと比較して、処理の遅延を最大2分の1に低減している。

メモリーの壁を解決する「TPU 8i Max」

 「TPU 8i Max」は、AIモデルが一度に処理できる情報量(コンテキストウィンドウ)の大規模化に伴う、メモリーのボトルネック解消を目的とする。

 2つの低遅延推論向けチップ(TPU 8i)を1つの基盤に統合することで、単一構成と比べて計算性能や、一時記憶用の高速メモリー(SRAM)の容量、広帯域メモリー(HBM)の帯域幅をそれぞれ2倍に引き上げている。

 既存のサーバーラックのスペースに2倍の半導体チップを収容できるため、データセンターにおける面積や消費電力あたりの計算能力を大幅に向上できる。

 数時間の動画データや大規模なプログラムのソースコードを一度に処理するような、高負荷なAIの計算処理においても、プロセッサーに必要なデータが絶えず供給され、処理の停滞を防ぐ設計となっている。

ソフトウェア環境の整備

 ハードウェアの拡充にあわせて、それを動かすソフトウェア環境の強化も図られている。AI開発で広く使われる「PyTorch」のプログラムをTPU上でネイティブに実行できる環境が、先月すでに無償公開(オープンソース化)されている。

 さらに、自律型AIがデータベースの検索や外部ツールの応答などを待機する際、自動で計算処理を一時停止して運用費用を削減する新ソフトウェア「Agent Compute Engine」などが提供される。

 計算処理の主体が人間から自律型AIへと移行するなか、企業からは一度に膨大な情報を処理できる専用チップ(アクセラレーター)や、特化した暗号化機能への需要が高まっていた。

 今回の新システム投入はこうした外部組織からのニーズに対応するものであり、TPUの基本思想であるモジュール式の設計によって、専用の計算環境を数年単位ではなく数カ月単位で迅速に提供できるとしている。