觀點網訊:10月23日,中國信通院人工智能研究所聯合中國人工智能產業發展聯盟發佈《大模型詞元服務性能監測報告(2026年)》。報告基於2026年1至8月監測數據,圍繞調用成功率、吞吐速度、首詞時延、穩定性、價格、上下文窗口等維度展開分析。
詞元消耗方面,2026年6月,國內詞元日均消耗量約500萬億,是2025年12月的近4倍。
吞吐速度方面,8月國內各模型平均TPS(每秒輸出詞元數)達78.23,較2025年均值38.25翻倍。
但國外典型模型8月TPS均值為112.82,整體仍優於國內。
時延方面,國內模型平均TTFT(首詞時延)8月均值達1.26秒。
