昆仑万维宣布开源百亿级大语言模型“天工”:0门槛商用
2023-10-30 17:23:19 网络 357观看
摘要 快科技10月30日消息,今天,昆仑万维官方宣布,开源百亿级大语言模型“天工”Skywork-13B系列,并罕见地配套开源了600GB、150B Tokens的超大高质量开源中文数据集。根据官方介绍,昆仑万维“天工&rdq

快科技10月30日消息,今天,昆仑万维官方宣布,开源百亿级大语言模型“天工”Skywork-13B系列,并罕见地配套开源了600GB、150B Tokens的超大高质量开源中文数据集qX528资讯网——每日最新资讯28at.com

根据官方介绍,昆仑万维“天工”Skywork-13B系列包括Skywork-13B-Base、Skywork-13B-Math两大模型及150B Tokens高质量中文数据集。qX528资讯网——每日最新资讯28at.com

其中Skywork-13B-Base模型是Skywork-13B的基础模型,其经由3.2万亿个多语言高质量数据训练,在CEVAL, CMMLU, MMLU, GSM8K等评测与基准测试上都展现了同等规模模型的佳效果。qX528资讯网——每日最新资讯28at.com

Skywork-13B-Math模型经过专门的数学能力强化训练,在GSM8K等数据集上取得了同等规模模型的佳效果。qX528资讯网——每日最新资讯28at.com

本次开源的数据集大小约为600GB,总token数量约为150B,是目前开源大的高质量中文数据集之一qX528资讯网——每日最新资讯28at.com

此外,昆仑万维还公开了模型中使用的评估方法、数据配比研究和训练基础设施调优方案等,助力对于大型模型预训练的认知,推动人工智能通用智能的实现。qX528资讯网——每日最新资讯28at.com

目前开源社区中的中文大模型多数并非是完全可商用,通常需要进行复杂的商用授权申请流程,甚至设定限制不给予商业授权。qX528资讯网——每日最新资讯28at.com

此次Skywork-13B系列大模型将全面开放商用许可,无需再次申请授权即可将大模型进行商业用途,帮助更多对中文大模型感兴趣的用户和企业在行业中不断探索和进步。qX528资讯网——每日最新资讯28at.com

附Skywork-13B下载地址:qX528资讯网——每日最新资讯28at.com

https://modelscope.cn/organization/skyworkqX528资讯网——每日最新资讯28at.com

https://github.com/SkyworkAI/SkyworkqX528资讯网——每日最新资讯28at.com

昆仑万维宣布开源百亿级大语言模型“天工”:0门槛商用qX528资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-17-15824-0.html昆仑万维宣布开源百亿级大语言模型“天工”:0门槛商用

声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

显示全文

上一篇:中国移动5G芯片上线淘宝店 定价999999元!网友:双11硬核的国货

下一篇:台积电前研发副总林本坚:美国试图限制中国进步是徒劳的!

最新热点