新浪科技

智源研究院:国内头部模型已达国际一流水平,但能力发展不均衡

新浪科技

关注

新浪科技讯 5月18日下午消息,在北京智源研究院(智源研究院)大模型评测发布会上,智源评测体系发布并公布了140余个国内外开/闭源语言及多模态大模型能力评测结果。评测结果显示,在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡情况;在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出;在中文语境下的文生图能力上,国产多模态模型与国际一流水平差距较小。

据评测结果,在中文语境下,字节跳动豆包Skylark2、OpenAI GPT-4位居第一、第二,国产大模型更懂中国用户。在语言模型客观评测中,OpenAI GPT-4、百川智能Baichuan3位列第一、第二。百度文心一言4.0、智谱华章GLM-4和月之暗面Kimi均进入语言模型主客观评测前五。

多模态理解模型客观评测结果显示,图文问答方面,阿里巴巴通义Qwen-vl-max与上海人工智能实验室InternVL-Chat-V1.5先后领先于OpenAI GPT-4,LLaVA-Next-Yi-34B和上海人工智能实验室Intern-XComposer2-VL-7B紧随其后。

在海淀区教委支持下,智源研究院联合与海淀区教师进修学校对齐学生测验方式,考察大模型与人类学生的学科水平差异。评测发现,模型在综合学科能力上与海淀学生平均水平仍有差距,普遍存在文强理弱的情况,并且对图表的理解能力不足,大模型未来有很大的提升空间。

据介绍,2023年6月,智源研究院与多个高校团队共建FlagEval大模型评测平台上线,迄今为止已完成1000多次覆盖全球多个开源大模型的评测和报告发布。本次评测使用了20余个数据集、超8万道考题,包括与合作单位共建和智源自建的多个评测数据集。(文猛)

【1型糖尿病发病新机制发现】18日从中南大学湘雅二医院获悉,该医院教授周智广团队的一项最新研究,首次系统揭示了人体免疫系统中的B淋巴细胞新亚型——CD226+ B细胞在1型糖尿病发病中的关键作用。此外,研究还提出了靶向“单核细胞/巨噬细胞—IL-15—CD226+ B细胞轴”的免疫干预新策略,为1型糖尿病的早期诊断和治疗提供了新方向。相关成果日前在线发表于国际期刊《柳叶刀·电子生物医学》上。(科技日报)

【软银将在愿景基金裁员近20%】据媒体援引一份备忘录和一位知情人士报道,软银集团将在全球范围内裁掉其愿景基金团队近20%的员工。愿景基金目前拥有44名员工。剩余员工将为创始人孙正义的人工智能AI计划投入更多资源,例如拟投资5000亿美元的星门项目(Stargate)。愿景基金发言人证实了裁员的消息,但没有对细节发表评论。

美国证券交易委员会(SEC)批准第一只美国跨资产加密数字货币交易所交易产品(ETP),发行人为Grayscale。该基金产品对比特币、以太坊、XRP、Solana、以及Cardano都将有风险敞口。

【1型糖尿病发病新机制发现】18日从中南大学湘雅二医院获悉,该医院教授周智广团队的一项最新研究,首次系统揭示了人体免疫系统中的B淋巴细胞新亚型——CD226+ B细胞在1型糖尿病发病中的关键作用。此外,研究还提出了靶向“单核细胞/巨噬细胞—IL-15—CD226+ B细胞轴”的免疫干预新策略,为1型糖尿病的早期诊断和治疗提供了新方向。相关成果日前在线发表于国际期刊《柳叶刀·电子生物医学》上。(科技日报)

【软银将在愿景基金裁员近20%】据媒体援引一份备忘录和一位知情人士报道,软银集团将在全球范围内裁掉其愿景基金团队近20%的员工。愿景基金目前拥有44名员工。剩余员工将为创始人孙正义的人工智能AI计划投入更多资源,例如拟投资5000亿美元的星门项目(Stargate)。愿景基金发言人证实了裁员的消息,但没有对细节发表评论。

请输入评论内容

举报成功

举报

请您选择举报的原因

说说你的看法

意见/建议 反馈入口
  • TOKEN
  • 标题/昵称
  • 反馈内容

已反馈成功~