觀點網訊:11月9日,谷歌宣佈擴充第八代TPU產品線,推出TPU 8tx和TPU 8i Max兩款新系統,分別瞄準機密計算和長上下文AI應用。

TPU 8tx採用與TPU 8t相同的芯片,搭配AMD處理器,為敏感數據和模型權重提供運行期間的硬件級隔離保護,面向企業及政府的機密推理、模型微調和強化學習任務,推理延遲最高可較8t降低一半。

TPU 8i Max則將兩顆TPU 8i芯片整合至單一封裝,使算力、片上SRAM和高帶寬內存(HBM)帶寬均翻倍,重點支持超長上下文及多智能體任務,並提高單位機櫃的計算密度。

谷歌稱,TPU業務目前已擁有近100家客戶,應用範圍也已延伸至客戶自有數據中心。

TPU需求旺盛、貨源已被預訂一空,但零部件短缺制約供貨,AI基建支出放緩的風險也仍未消散。

算力對比方面,英偉達下一代Rubin芯片算力可達35拍浮點(PFLOPS,每秒千萬億次浮點運算);谷歌TPU 8i約為10拍浮點,TPU 8i Max約為20拍浮點。

谷歌芯片負責人Amin Vahdat表示,兩款新產品預計將於明年推出。