腾讯混元大模型:训练效率提升至主流开源框架的2.6倍

11月23日,腾讯混元大模型背后的自研机器学习框架Angel再次升级,大模型训练效率提升至主流开源框架的2.6倍,千亿级大模型训练可节省50%算力成本。

据悉,升级后的Angel支持单任务万卡级别超大规模训练,将进一步提升腾讯云HCC大模型专属算力集群的性能和效率,助力企业加速大模型落地。同时,Angel还提供从模型研发到应用落地的一站式平台,支持用户通过API接口或精调等方式快速调用腾讯混元大模型能力,让大模型的“开箱即用”成为可能,进而加速大模型应用构建。目前,相关能力已通过腾讯云对外开放。

此外,腾讯方面还介绍,目前,腾讯混元大模型在模型接入层面,提供千亿、百亿、十亿多个尺寸的模型,充分适配各类应用场景的需求,只需要经过简单微调就能达到满足业务需求的效果,同时降低了模型训练和推理服务的资源成本,在问答、内容分类等常见应用场景中具有更高的性价比。

而在应用开发层面,据介绍,自2023年9月,腾讯混元大模型正式亮相并通过腾讯云开放以来,已有来自零售、教育、金融、医疗、传媒、交通、政务等多个行业的客户,通过腾讯云接入腾讯混元大模型。腾讯内部进行了接入的应用数量也较上月翻了一倍,目前已有包括腾讯会议、腾讯新闻、腾讯视频等超300项业务和应用场景接入腾讯混元内测,覆盖文本总结、摘要、创作、翻译、代码等多个领域。

服务商动态

天翼云助力青海打造省级融媒云

2023-11-21 16:46:22

服务商动态

UCloud(优刻得)智算平台“孔明”全新上线

2023-11-24 10:03:33

相关推荐