NVIDIA推出DGX H100系统领跑企业级AI基础设施

来源：中关村在线 2022-03-23 17:13:19

分享到：

NVIDIA今日宣布推出第四代NVIDIA DGX系统，这是全球首个基于全新NVIDIA H100 Tensor Core GPU的AI平台。

NVIDIA DGX H100 Systems

DGX H100系统能够满足大型语言模型、推荐系统、医疗健康研究和气候科学的大规模计算需求。每个DGX H100系统配备八块NVIDIA H100 GPU，并由 NVIDIA NVLink连接，能够在新的FP8精度下达到32 Petaflop的AI性能，比上一代系统性能高6倍。

DGX H100系统是新一代NVIDIA DGX POD和NVIDIA DGX SuperPOD AI基础设施平台的构建模块。新的DGX SuperPOD架构采用了一个全新的NVIDIA NVLink Switch系统，通过这一系统最多可连接32个节点，总计256块H100 GPU。

新一代DGX SuperPOD提供1 Exaflops的FP8 AI性能，比上一代产品性能高6倍，能够运行具有数万亿参数的庞大LLM工作负载，从而推动AI的前沿发展。

NVIDIA创始人兼首席执行官黄仁勋表示：“AI已经从根本上改变了软件的功能和产出方式。利用AI来革新自身所处行业的公司也意识到了自身AI基础设施的重要性。NVIDIA全新DGX H100系统将赋能企业AI工厂，助力其从数据中提炼出我们最具价值的资源，即‘智能’。"

全球运行速度最快的AI超级计算机——NVIDIA Eos

NVIDIA将率先使用突破性的新型AI架构来构建DGX SuperPOD，赋能NVIDIA研究人员的研究工作，推动气候科学、数字生物学和AI未来的发展。

“Eos”超级计算机将于今年晚些时候开始运行，共配备576台DGX H100系统，共计 4608块DGX H100 GPU，有望成为全球运行速度最快的AI系统。

NVIDIA Eos预计将提供18.4 Exaflops的AI计算性能，比日本的Fugaku超级计算机快4倍，后者是目前运行速度最快的系统。在传统的科学计算方面，Eos预计将提供275 Petaflop 的性能。

对于NVIDIA及其OEM和云计算合作伙伴，Eos将成为其先进AI基础设施的蓝图。

借助DGX H100系统、DGX POD和DGX SuperPOD，轻松扩展企业级AI

在企业从初始项目发展到广泛部署的过程中，DGX H100系统能够实现轻松扩展，满足企业的AI需求。

除了八块H100 GPU以及总计6400亿个晶体管之外，每个DGX H100系统还包含两个NVIDIA BlueField-3 DPU，以用于卸载、加速和隔离高级网络、存储及安全服务。

八个NVIDIA ConnectX-7 Quantum-2 InfiniBand网卡能够提供400 GB/s的吞吐量，可用于连接计算和存储，这一速度比上一代系统提升了一倍。第四代NVLink与NVSwitch相结合，能够在每个DGX H100系统中的各个GPU之间实现900 GB/s的连接速度，是上一代系统的1.5倍。

DGX H100系统使用双x86 CPU，能够与NVIDIA网络和NVIDIA合作伙伴提供的存储设备相结合，使DGX POD能够灵活用于各种规模的AI计算。

借助 DGX H100 系统，DGX SuperPOD可成为具有可扩展性的卓越的企业级AI中心。DGX SuperPOD中的DGX H100节点和H100 GPU由NVLink Switch系统和NVIDIA Quantum-2 InfiniBand连接，带宽速度可达70 TB/s，比上一代产品高11倍。NVIDIA合作伙伴提供的存储设备将经过测试和认证，以满足DGX SuperPOD AI计算的需求。

多个DGX SuperPOD单元可组合使用，为汽车、医疗健康、制造、通信、零售等行业提供开发大型模型所需的AI性能。

NVIDIA DGX Foundry托管的开发解决方案正在全球扩展，使DGX SuperPOD客户能够在他们的系统安装期间，立即获取先进的计算基础设施。北美、欧洲和亚洲的新增地点支持远程访问DGX SuperPOD（或其中部分）。

DGX Foundry中包含NVIDIA Base Command软件，后者能够使客户基于DGX SuperPOD基础设施，轻松管理端到端AI开发生命周期。

通过在全球各地的Equinix IBX（International Business Exchange）数据中心托管的NVIDIA LaunchPad实验室，符合资格的企业可以免费体验NVIDIA Base Command和DGX系统。

企业级AI软件MLOps助力客户提高AI采用率

为支持正在进行AI开发的DGX客户，NVIDIA DGX-Ready软件合作伙伴（包括Domino Data Lab、Run:ai和Weights&Biases等）提供的MLOps解决方案将加入“NVIDIA AI加速”计划。

参与活动的合作伙伴提供的MLOps应用程序将经过验证，为DGX客户提供企业级工作流以及集群管理、调度与编排解决方案。

此外，NVIDIA DGX系统现在包含NVIDIA AI Enterprise软件套件，该套件新增了对裸金属基础设施的支持。DGX客户可使用软件套件中包含的预训练NVIDIA AI平台模型、工具包和框架（例如NVIDIA RAPIDS、NVIDIA TAO工具套件、NVIDIA Triton推理服务器等）来加快工作速度。

DGX-Ready托管服务计划能够简化AI部署

随着企业AI采用率不断提高，客户正在寻求更多选择，以便添加实现业务转型所需的基础设施。NVIDIA推出新的DGX-Ready托管服务计划，能够为希望与服务提供商开展合作来监督其基础设施的客户提供支持。

德勤是率先与NVIDIA合作开展此计划的全球提供商，并将经过认证，可与区域供应商（CGit、ePlus、Insight Enterprises和PTC System）一起，为欧洲、北美和亚洲的客户提供支持。

德勤咨询首席合伙人兼AI与数据运营服务负责人Jim Rowan表示：“只有企业能够将技术集成到运营中时，AI才可能助推业务实现突破。借助新的DGX-Ready托管服务计划，客户可以轻松采用先进的AI技术以及由德勤全球专家管理的NVIDIA DGX系统和软件。”

DGX-Ready生命周期管理计划助力实现轻松升级

现在，客户可以通过新的DGX-Ready生命周期管理计划，借助新的NVIDIA DGX平台升级其现有DGX系统。

参加DGX-Ready生命周期管理计划的NVIDIA渠道合作伙伴将可以更新上一代DGX系统，以供新客户进行购买，并扩展用于AI基础设施的全球通用系统的获取途径。

供货信息

从第三季度起，NVIDIA的全球合作伙伴将开始供应NVIDIA DGX H100系统、DGX POD 和DGX SuperPOD。

客户还可以选择在由Cyxtera、Digital Realty和Equinix IBX数据中心等NVIDIA DGX-Ready数据中心合作伙伴运营的托管设施中部署DGX系统。

七彩虹iGame GeForce RTX 3060 Ti Ultra W OC LHR

[经销商]京东商城