新浪科技

国产对话模型ChatGLM启动内测

中国科学报

关注

本报讯(记者沈春蕾)记者日前从清华大学计算机系技术成果转化公司——智谱AI获悉,该公司近日开源了General Language Model(通用语言模型,GLM)系列模型的新成员——中英双语对话模型ChatGLM-6B,支持在单张消费级显卡上进行推理使用。

这是继此前开源GLM-130B千亿基座模型之后,智谱AI再次推出大模型方向的研究成果。同时,基于千亿基座模型的ChatGLM也同期推出,初具问答和对话功能,现已开启邀请制内测,后续还会逐步扩大内测范围。

ChatGLM-6B是一个开源的、支持中英双语问答的对话语言模型,并针对中文进行了优化。该模型基于GLM架构,具有62亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4量化级别下最低只需6GB显存)。

加载中...