觀點網訊:11月21日,騰訊首席AI科學家姚順雨帶領騰訊混元團隊在海外社交媒體社區開展文字AMA(公開問答),回應外界關於模型參數量與研發方向的提問。

問答環節,有人提問稱,字節跳動和Kimi等模型參數量似乎都在往3T甚至5T推,為什麼騰訊混元模型參數量停在700B。

針對這一問題,混元團隊回應:“Hy3和Hy4已經證明,較小的模型也能超越較大的模型,而且更便宜。”

混元團隊同時表示,Hy4仍有很大的改進空間,尤其是通過後訓練。“我們正投入大量精力進行大規模強化學習,同時繼續改善用戶體驗和模型安全。我們還計劃訓練更大規模的模型。”