百川智能 × 昇腾 AI|百川重磅发布 Baichuan2 大模型! 已上线昇思开源社区
【2023 年 9 月 6 日,北京】今日,百川智能在北京召开大模型发布会,正式发布 Baichuan2 开源大模型,昇腾 AI 基础软硬件平台正式支持 Baichuan2 大模型,并在昇思 MindSpore 开源社区大模型平台上线 Baichuan2-7B 模型开放体验。
发布会现场,百川智能宣布正式开源微调后的 Baichuan2-7B、Baichuan2-13B、Baichuan2-13B-Chat 与其量化版本 4bit,面向学术及商业市场提供大模型服务,并且均为免费可商用。
文理兼备性能优异,全面领先 LLaMA 2
Baichuan2-7B-Base 和 Baichuan2-13B-Base,均基于 2.6T ⾼质量多语⾔数据进⾏训练,在保留了上一代开源模型良好的生成与创作能力,流畅的多轮对话能力以及部署⻔槛较低等众多特性的基础上,两个模型在数学、代码、安全、逻辑推理、语义理解等能⼒有显著提升。其中 Baichuan2-13B-Base 相比上⼀代 13B 模型,数学能力提升 49%,代码能⼒提升 46%,安全能力提升 37%,逻辑推理能力提升 25%,语义理解能力提升 15%。
本次开源的两个模型在各⼤评测榜单上的表现优秀,在 MMLU、CMMLU、GSM8K 等几⼤权威评估基准中,以绝对优势领先 LLaMA 2,相比其他同等参数量大模型,表现也十分亮眼,性能大幅度优于 LLaMA 2 等同尺寸模型竞品。
更值得一提的是,根据 MMLU 等多个权威英文评估基准评分 Baichuan2-7b 以 70 亿的参数在英文主流任务上与 130 亿参数量的 LLaMA 2 基本持平。
7B 参数模型的 Benchmark 成绩
13B 参数模型的 Benchmark 成绩
Baichuan2-7B 和 Baichuan2-13B 不仅对学术研究完全开放,开发者也仅需邮件申请获得官方商用许可后,即可以免费商用。
Baichuan2 大模型
Baichuan2 大模型是由百川智能开发的一系列开源可商用的大规模预训练语言模型。包含了 70 亿、130 亿、530 亿参数的模型。百川智能⾃成⽴之初,就将通过开源⽅式助⼒中国⼤模型⽣态繁荣作为公司的重要发展⽅向。此次开源的两款 Baichuan2 ⼤模型,得到了上下游企业的积极响应,华为等众多知名企业均参加了本次发布会并与百川智能达成了合作。
相关文章
- 25 周年纪念作,情怀拉满但诚意欠缺:《勇者斗恶龙 怪物仙境 3》
- 联想拯救者 Y700 2023 平板推送 ZUI 15.0.723 系统灰度测试:新增“USB 网络共享”,优化底部小白条
- Streacom 推出 SG10 高端被动散热机箱:可解热 600W,1300 美元
- 3D 角色扮演策略游戏《少女前线 2:追放》公测开启,安卓、iOS、PC 多端互通
- 新能源车市:价格战开局,价值战结束
- 雪天这样拍,照片更为味道
- Cybertruck:未来物种重新定义汽车
- 2022 年我国未成年网民规模突破 1.93 亿,普及率达 97.2%
- 上映 7 天,《名侦探柯南:黑铁的鱼影》内地票房破亿、豆瓣 6.6 分
- 小岛工作室推出《死亡搁浅》联名手机手柄,预计明年发售