NVIDIA发布超级计算机DGX GH200 可用于生成式AI

5月29日,NVIDIA(英伟达)发布主要用于生成式AI、大语言模型、AI应用、推荐系统、数据处理等研发的超级计算机——DGX GH200。据悉,DGX GH200由超级芯片NVIDIA GH200 Grace Hopper和NVIDIA NVlink组成。

DGX GH200

DGX GH200采用的超级芯片与NVIDIA DGX A100 相比,GPU的总系统内存带宽高出30倍;新型900 GB/s一致性接口,比PCIe5.0快7倍。可运行所有NVIDIA软件堆栈和平台,包括NVIDIA HPC SDK、NVIDIA AI 和 NVIDIA Omniverse等。

值得关注的是,DGX GH200提供的共享内存达到了惊人的144 TB,比2020年推出的上一代 NVIDIA DGX A100多近500倍,可帮助研发人员更快地研发万亿级模型。

NVIDIA NVlink是一种GPU互联技术,旨在解决传统PCI Express互联所面临的带宽和延迟限制问题,提高GPU与CPU之间的通信性能,从而可以跨节点扩展,以创建无缝、高带宽、多节点的 GPU集群。DGX GH200的架构比上一代的NVlink带宽强大了48倍,同时支持系统中的所有GPU协同工作。

NVIDIA NVlink

微软 Azure副总裁 Girish Bablani表示,传统上训练大型AI模型是一项消耗大量资源和时间的密集型任务。开发人员借助DGX GH200处理TB级数据集的能力,能以更大规模和更快的速度进行高级研究。

NVIDIA还打算将DGX GH200设计作为蓝图提供给云服务提供商和其他超大规模服务商,以便可以根据自己的基础设施进一步量身定制。DGX GH200预计将于今年年底上市。微软、谷歌云和Meta是首批有望使用DGX GH200 探索生成AI能力的企业。

AI俱乐部,致力于打造最专业的AI交流社群。

星球将分享:

1、ChatGPT的使用方法,最新资讯,商业价。

2、邀请顶尖行业大佬,每周给大家发现一个商业落地案例。

3、组织星球小伙伴一起参与实战项目,亲身感受AI浪潮。

4、系列课程和训练营,手把手带着大家去实操ChatGPT。

5、一些副业思考、创业案例、落地案例分享。

6、最早期、专业的AI交流社群。探讨未来关于ChatGPT的机遇,帮助大家解决遇到的问题。

如果有小伙伴感兴趣的话,可以一起加入星球哦!

AI俱乐部

服务商动态

重磅! 360正式发布“360智脑-视觉大模型”

2023-6-2 9:31:50

服务商动态

2023数字办公中国行首站落地上海 金山办公WPS 365和WPS AI悉数亮相

2023-6-2 12:00:37

相关推荐