面壁智能发布新一代MiniCPM-V 4.7
(来源:界面新闻)
10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中35B-A3B采用MoE架构,总参数350亿、每次推理激活30亿,约3GB内存可运行,解码速度达15+token/s(iPad Pro 实测)。目前已支持瑞芯微、NVIDIA、Intel和Apple等国内外主流芯片平台,同时支持iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。
(来源:界面新闻)
10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中35B-A3B采用MoE架构,总参数350亿、每次推理激活30亿,约3GB内存可运行,解码速度达15+token/s(iPad Pro 实测)。目前已支持瑞芯微、NVIDIA、Intel和Apple等国内外主流芯片平台,同时支持iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。