世界即时看!Nvidia将为数据中心带来双GPU
Nvidia在其GTC 2023年春季主题演讲中宣布了一个新的双GPU产品,H100 NVL。这不会带来SLI或多GPU游戏的回归,也不会是最好的游戏显卡之一,而是针对不断增长的AI市场。从Nvidia发布的信息和图片来看,H100 NVL(H100 NVLink)将在顶部采用三个NVLink连接器,相邻的两块卡可插入独立的PCIe插槽。
(资料图片)
这是一个有趣的变化,显然是为了适应不支持Nvidia的SXM选项的服务器,重点是推理性能而不是训练。NVLink连接应该有助于提供NVSwitch在SXM解决方案上提供的缺失带宽,而且还有一些其他明显的区别。
以规格为例。以前的H100解决方案--包括SXM和PCIe--都配备了80GB的HBM3内存,但实际包装包含六个堆栈,每个堆栈有16GB的内存。目前还不清楚是否有一个堆栈被完全禁用,或者是用于ECC或其他目的。我们所知道的是,H100 NVL每个GPU将有94GB,总共有188GB HBM3。我们认为每个GPU "缺少 "的2GB是为了ECC。
功率比H100 PCIe略高,每个GPU为350-400瓦(可配置),增加50瓦。同时,总性能实际上是H100 SXM的两倍:134 teraflops的FP64,1,979 teraflops的TF32,和7,916 teraflops FP8(以及7,916 teraops INT8)。
基本上,这看起来与H100 PCIe的核心设计相同,它也支持NVLink,但现在可能启用了更多的GPU核心,而且内存增加了17.5%。内存带宽也比H100 PCIe高一些,每个GPU为3.9TB/s,合计7.8TB/s(而H100 PCIe为2TB/s,H100 SXM为3.35TB/s)。
丽台(LEADTEK) NVIDIA RTX A6000 48G GDDR6大型数据处理专业图形显卡 NVIDIA A6000 48G 盒装
进入购买
由于这是一个双卡解决方案,每张卡占用2个插槽的空间,Nvidia只支持合作伙伴和认证系统的2至4对H100 NVL卡。一对的价格是多少,它们是否可以单独购买?这还有待观察,尽管单块H100 PCIe有时可以找到,价格约为28,000美元(在新标签中打开)。因此,80,000美元购买一对H100 NVL似乎并不是不可能的事。
关键词:
2023-03-23 06:52:55
2023-03-23 06:37:10
2023-03-23 02:58:25
2023-03-22 22:53:28
2023-03-22 20:58:02
2023-03-22 20:51:56
2023-03-22 20:41:30
2023-03-22 20:38:42
2023-03-22 20:37:21
2023-03-22 20:34:59
2023-03-22 20:31:41
2023-03-22 19:54:02
2023-03-22 19:47:44
2023-03-22 19:45:13
2023-03-22 19:44:38
2023-03-22 19:44:12
2023-03-22 19:40:20
2023-03-22 19:39:43
2023-03-22 19:37:45
2023-03-22 19:34:38
2023-03-22 18:58:04
2023-03-22 18:58:02
2023-03-22 18:48:15
2023-03-22 18:46:51
2023-03-22 17:07:54
2023-03-22 17:06:45
2023-03-22 16:57:56
2023-03-22 16:54:11
2023-03-22 16:50:45
2023-03-22 16:40:59
2023-03-22 16:40:20
2023-03-22 16:40:12
2023-03-22 16:39:49
2023-03-22 16:38:48
2023-03-22 16:38:23
2023-03-22 16:37:28
2023-03-22 16:37:19
2023-03-22 16:37:00
2023-03-22 16:32:26
2023-03-22 16:28:06
2023-03-22 16:24:45
2023-03-22 16:24:04
2023-03-22 16:23:26
2023-03-22 16:22:28
2023-03-22 16:20:59
2023-03-22 16:20:44
2023-03-22 16:20:02
2023-03-22 16:19:53
2023-03-22 16:17:19
2023-03-22 16:17:07
2023-03-22 16:07:17
2023-03-22 16:07:06
2023-03-22 16:05:34
2023-03-22 16:04:44
2023-03-22 16:03:37
2023-03-22 16:00:58
2023-03-22 16:00:04
2023-03-22 15:59:55
2023-03-22 15:58:39
2023-03-22 15:57:50
2023-03-22 15:57:25
2023-03-22 15:57:23
2023-03-22 15:54:03
2023-03-22 15:52:43
2023-03-22 15:52:25
2023-03-22 15:52:03
2023-03-22 15:51:40
2023-03-22 15:51:11
2023-03-22 15:51:06
2023-03-22 15:49:56
2023-03-22 15:49:31
2023-03-22 15:49:16
2023-03-22 15:49:07
2023-03-22 15:48:38
2023-03-22 15:48:17
2023-03-22 15:47:59
2023-03-22 15:47:20
2023-03-22 15:47:12
2023-03-22 15:46:58
2023-03-22 15:46:54
2023-03-22 15:46:51
2023-03-22 15:46:20
2023-03-22 15:46:11
2023-03-22 15:46:05
2023-03-22 15:45:03
2023-03-22 15:44:51
2023-03-22 15:43:20
2023-03-22 15:42:13
2023-03-22 15:42:12
2023-03-22 15:41:56
2023-03-22 15:41:49
2023-03-22 15:40:46
2023-03-22 15:38:21
2023-03-22 15:36:08
2023-03-22 15:34:04
2023-03-22 15:33:16
2023-03-22 15:31:30
2023-03-22 15:28:36
2023-03-22 15:28:17
相关新闻