性能提升30%,中国电信进一步开源12B星辰大模型
中国电信消息,性能B星近日中国电信开源12B参数规模星辰语义大模型TeleChat-12B,相较1月开源7B版本,内容、性能和应用等方面整体效果提升30%,提升其中,多轮推理、安全问题等领域提升超40%。中国皇冠足球信用盘出租在C-eval、电信MMLU、进步AGIEVAL等国际权威榜单上,开源排名处于国内同级别参数开源模型的前列,进一步促进大模型开源生态繁荣,助力AI产业加速高质量发展。另据悉,模型中国电信将于年内开源千亿级参数大模型。
中国电信人工智能研究院(TeleAI)坚持完全自研自主可控,性能B星在中国电信首席技术官、首席科学家、提升皇冠足球信用盘出租TeleAI院长李学龙带领下,中国加快研发创新,不断优化底层模型结构,解除Word Embedding与lmhead共享参数,有效提升模型稳定性和训练效果,并基于精细化的CheckPoint效果验证,进行动态的数据配比优化调整,大幅提升模型训练效果。
海量高质量数据是电信保证大模型效果的基础,TeleChat-12B将7B版本1.5T训练数据提升至3T,优化数据清洗、标注策略,进步持续构建专项任务SFT(监督微调)数据,优化数据构建规范,大大提升数据质量;同时,基于电信星辰大模型用户真实回流数据,优化奖励模型和强化学习模型,有效提升模型问答效果。
TeleAI通过更彻底地开源推动大模型技术进步和大模型国产化进程。开源此次开源提供基础模型以及基于相应版本的模型对话模型、不仅支持传统的性能B星全量参数更新还支持 LoRA 等只更新部分参数的高效微调方法、支持Deepspeed微调、支持int8、int4量化和国产芯片训练推理,推动大模型国产化进程。
加速探索创新的同时,星辰大模型也在深入推动人工智能与各行各业的融合,积极探索新兴的应用场景。星辰语义大模型已应用于行文写作、代码编程、网络故障分析以及经营分析等场景,以行文写作为例,其平均生成字数超过1500字,有效采纳率达到85.7%;在对外企事业单位客户的业务中,星辰语义大模型支持企业经营分析、政务公开咨询、民生诉求接待等场景,可覆盖95%的实际业务场景,多轮理解准确率达到90%。除传统行业应用场景,星辰大模型积极探索前沿领域应用,赋能具身智能,解决无人机编排投入多、开发量大的问题,实现无人机智能编排轻量化建设。
据悉,星辰大模型已广泛应用落地,赋能千行百业转型升级。客服大模型在全国试点上线18个服务场景,充分赋能智慧客服和数字人,在激活十亿级的日志、百亿级的网络参数等海量数据资产的基础上,进一步深化智能化运营;星辰政务大模型已落地某市民生诉求场景,为市民提供在线文本问答服务,提升政务服务能力,提高市民满意度;星辰经分大模型已落地某市经信局行业大模型,利用大模型生成能力快速草拟相关产业研究报告,简化知识检索流程,快速、精准查询所需知识内容,以便迅速、准确地掌握发展动态,支持决策过程,并追踪全球经济形势和科技创新,满足迫切的产业洞察和分析需求。
雷峰网(公众号:雷峰网)雷峰网雷峰网
-
文章
95773
-
浏览
61267
-
获赞
3
热门推荐
-
双线12连胜+竞争对手掉队 泰山队有望重温双冠王
双线12连胜+竞争对手掉队 泰山队有望重温双冠王_山东泰山_比赛_莱尼www.ty42.com 日期:2021-12-13 22:31:00| 评论(已有319288条评论)磨合期驾驶五个注意 应尽量低速行驶
汽车磨合期是指新车或大修后的初驶阶段,一般为1000~1500公里,这是保证机件充分接触、摩擦、适应、定型的基本里程。在这期间可以调整提升汽车各部件适应环境的能力,并磨掉零件上的凸起物。汽车磨合的优劣销售下降生产过剩 美国汽车行业打响折扣战
在经历了四年的快速增长后,美国的汽车行业目前面临着停滞局面。最近持续的严寒天气影响到美国部分行业,汽车行业居于其间,销售下降加生产过剩,部分汽车销售商和制造商不得不靠价格战来促进销售。过去六周,美国一2020年冀中能源实现净利润7.9亿 同比增长0.3%
冀中能源4月28日晚间发布年度业绩报告称,2020年,公司实现营业总收入206.4亿,同比下降8.4%;实现归母净利润7.9亿,同比增长0.3%;每股收益为0.22元。2020年,公司完成原煤产量2,巴里赴德接受专家治疗 曼城大将恐错过英超开局
7月10日报道:《每日邮报》独家披露,曼城中场大巴里在本周一曾经飞到慕尼黑寻求专家的治疗,由于腹股沟伤势迟迟未能康复,这使得巴里甚至能够错过英超新赛季的开端阶段,假如真的呈现这种情况,那么这对英超卫冕蒙古成中国最大煤炭供应国,承诺对华亮绿灯,澳媒:早有预谋
海关总署最新发布的数据,今年1、2月份中,我国的进口煤炭总量为2732.9万吨,其中从蒙古国进口1686.1万吨,占比达到61.7%,成为我国最大的煤炭供应国。蒙古煤炭对华出口能取得如此佳绩,还要感谢一季度美锦能源净利润6.37亿元 同比增1181.31%
4月29日晚间美锦能源发布一季度业绩公告称,2021年第一季度营收约37.56亿元,同比增长69.02%;净利润约6.37亿元,同比增长1181.31%。同日,发布2020年度业绩报告称,2020年营春节期间北京高速免收小客车806.3万辆次
记者从市交通委获悉,截至昨天(6日)24时,全市收费公路免收小型客车共806.3万辆次,同比增长15.3%。春节期间,北京地铁17条线路共运送乘客2900.5万人次,日均414万人次。从正月初五以后,Levi’s 2021 全新冰酷系列上架发售,极致舒爽
潮牌汇 / 潮流资讯 / Levi’s 2021 全新冰酷系列上架发售,极致舒爽2021年04月26日浏览:3351 最高支线 Levi’s Vintage Cloth新车高速突然熄火险酿车祸 车主质疑奔驰有质量缺陷
仅行驶1300公里的奔驰R550新车,以110公里的时速行驶在G4高速往广州2061公里处的超车道上,在无任何故障提示的情况突然熄火,将林先生(系化名)和车上众人吓出一身冷汗。经过2个小时求援,在高速贵州购买新能源汽车有望获12万元补贴
贵州省科技厅近日表示,贵州省6个城市列入国家第二批新能源汽车推广应用城市名单,这意味着今后上述城市的居民在本地购买新能源汽车,有望获得国家和地方财政补贴,最高额度达12万元。近日,财政部、科技部等4部辽宁省“十四五”期间将保持省内煤炭年产能3500万吨以上
近日,辽宁省发布《辽宁省国民经济和社会发展第十四个五年规划和二〇三五年远景目标纲要》提出,要着力推进能源供给多元化,加快形成煤、油、气和清洁能源多轮驱动、协调发展的能源供应体系。其中煤炭方面,要加快促出游正当时!本周末,河南多景区免票→
5月19日是中国旅游日,河南多家景区为了庆祝这个特殊的日子,纷纷推出了免票或半价等超值优惠!如果你正计划出去玩,那就别错过这个免票大放送的好时机哦!洛阳区域1、重渡沟风景区:5月19日中国旅游日当天,一季度俄煤产量出口大增,4月中下旬蒙煤通车回升
数据显示2021年3月俄罗斯的铁路煤炭装载量同比增长9.9%,达到3,230万吨;2021年一季度,俄罗斯铁路煤炭装载量比去年同期增加了5.6%,达到9,210万吨,但与2019年相比依旧下降了5.2曾业辉:汽车电商常态化是不可逆转的趋势
“抢车回家过年”打响了广汽吉奥数字营销的第一枪。在“抢车族”网上线首日,广汽吉奥提供了旗下两款热销车型,分别是精致型MPV星朗和越野型SUV奥轩GX5。