觀點網訊:據智通財經消息,10月13日,面壁智能發佈新一代端側多模態大模型MiniCPM-V 4.7,包含35B-A3B與1B兩個版本。
其中35B-A3B版本採用MoE架構,總參數350億、每次推理激活30億,約3GB內存可運行,解碼速度達15+token/s。
適配平臺方面,MiniCPM-V 4.7目前已支持瑞芯微、NVIDIA、Intel和Apple等國內外主流芯片平臺,同時支持iOS、安卓和鴻蒙系統,並提供開源端側適配代碼及主流推理框架。
據智通財經消息,10月13日,面壁智能發佈端側多模態大模型MiniCPM-V 4.7,包含35B-A3B與1B兩個版本。35B-A3B採用MoE架構,總參數350億,每次推理激活30億,約3GB內存可運行,解碼速度達15+token/s。
觀點網訊:據智通財經消息,10月13日,面壁智能發佈新一代端側多模態大模型MiniCPM-V 4.7,包含35B-A3B與1B兩個版本。
其中35B-A3B版本採用MoE架構,總參數350億、每次推理激活30億,約3GB內存可運行,解碼速度達15+token/s。
適配平臺方面,MiniCPM-V 4.7目前已支持瑞芯微、NVIDIA、Intel和Apple等國內外主流芯片平臺,同時支持iOS、安卓和鴻蒙系統,並提供開源端側適配代碼及主流推理框架。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。