觀點網訊:11月18日,騰訊混元宣佈正式開放Hy4 flash大模型權重。沐曦股份表示,曦雲C系列GPU率先完成Hy4 flash Day 0全鏈路適配,模型當日即在曦雲C系列GPU完成推理驗證,支持高吞吐、低成本規模化Agent業務落地。

Hy4 flash是騰訊混元面向日常生產力場景打造的新一代MoE模型,總參數224B、激活參數12B,支持1M token超長上下文與多模態輸入,適配文檔處理、代碼開發、圖表解析、多步工具調用、企業辦公Agent等場景。

在推理階段,混元團隊結合megakernel、4bit量化、DFly等手段優化,使Hy4 flash解碼速度超過150 tps,且可以大規模低成本部署運營。

本次適配依託沐曦全棧自研MXMACA軟件棧,底層完成核心算子協同優化,原生兼容vLLM、SGLang主流推理引擎,支持FP8、4bit量化混合精度推理。

據沐曦股份消息,此前Hy3、Hy4 preview等多款混元旗艦模型均實現Day 0首發適配。截至目前,沐曦已完成51款國內頭部大模型的Day 0極速適配,覆蓋語言、多模態、Flash高效推理等模型。