英伟达秀 Blackwell GPU 肌肉:训练 AI 模型速度比 Hopper H100 快 2.2 倍
2024-11-14 10:27:09 数码 100观看
摘要 11 月 14 日消息,科技媒体 WccfTech 昨日(11 月 13 日)发布博文,报道称英伟达首次公布了 Blackwell GPU 在 MLPerf v4.1 AI 训练工作负载中的成绩,在训练 Llama 2 70B (Fine-Tuning)模型时比Hopper快2.2 倍。测试

11 月 14 日消息,科技媒体 WccfTech 昨日(11 月 13 日)发布博文,报道称英伟达首次公布了 Blackwell GPU 在 MLPerf v4.1 AI 训练工作负载中的成绩,在训练 Llama 2 70B (Fine-Tuning)模型时比Hopper快2.2 倍。b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

测试简介

英伟达于今年 8 月,首次公布了 Blackwell GPU 在 MLPerf v4.1 AI 推理方面的基准测试成绩,而今天首次公布了该 GPU 在 MLPerf v4.1 AI 训练工作负载方面的测试成绩。b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

NVIDIA 表示,随着新模型的推出,AI 领域对计算的需求正在以指数级增长,因此需要大幅提升训练和推理 AI 的能力,附上本次训练工作负载主要使用的模型如下:b6i28资讯网——每日最新资讯28at.com

Llama 2 70B(LLM 微调)b6i28资讯网——每日最新资讯28at.com

Stable Diffusion(文本到图像)b6i28资讯网——每日最新资讯28at.com

DLRMv2(推荐系统)b6i28资讯网——每日最新资讯28at.com

BERT(自然语言处理)b6i28资讯网——每日最新资讯28at.com

RetinaNet(目标检测)b6i28资讯网——每日最新资讯28at.com

GPT-3 175B(LLM 预训练)b6i28资讯网——每日最新资讯28at.com

R-GAT(图神经网络)b6i28资讯网——每日最新资讯28at.com

这些工作负载的基准测试为评估 AI 加速器的训练性能提供了准确的数据支持。b6i28资讯网——每日最新资讯28at.com

Hopper GPU 的持续优化

Hopper GPU 自发布以来,经过持续的软件优化,性能得到了显著提升。H100 GPU 在 LLM 预训练性能上比首次提交时快了 1.3 倍,并且在 GPT-3(175B 训练)中实现了 70% 的性能提升。b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

英伟达利用 11616 个 H100 GPU 进行了 MLPerf 的最大规模提交,进一步证明了其在数据中心级别的强大能力。b6i28资讯网——每日最新资讯28at.com

Blackwell 的技术优势

Blackwell GPU 的设计旨在提高每个 GPU 的计算吞吐量,配备更大更快的高带宽内存,不降低性能的前提下,能够在更少的 GPU 上运行 GPT-3 175B 基准测试。b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

根据测试结果,64 张 Blackwell GPU 的测试性能,可以达到 256 张 Hopper GPU 的水平。b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

b6i28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-24-127106-0.html英伟达秀 Blackwell GPU 肌肉:训练 AI 模型速度比 Hopper H100 快 2.2 倍

声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

显示全文

上一篇:酷冷至尊针对 SFF 市场推出 Hyper 411 Nano 散热器,采用 92mm 风扇

下一篇:红魔氘锋三合一能量魔方发布:智能数码屏、支持 65W 功率充电,售价 279 元

最新热点