推理提速30倍！英伟达发布AI新芯片，黄仁勋：我们需要更大的GPU

·英伟达推出Blackwell B200 GPU和GB200超级芯片。Blackwell GPU的训练性能是上一代Hopper GPU的4倍，推理性能是30倍，能源效率约25倍。

·中欧资本董事长张俊表示，美国人工智能芯片又遥遥领先，挑战很严峻，这实际上是中美之间的算力大战。但最大的危险也是最大的机遇，国产替代到了提枪上马的时刻，对中国的GPU芯片公司来说这是一个千载难逢的时间窗口。

当地时间3月18日，在美国圣何塞举行的英伟达GTC人工智能大会上，英伟达宣布了用于运行人工智能模型的新一代人工智能芯片和软件，供人工智能企业训练更大更复杂的大模型。

英伟达每两年更新一次GPU架构，从而实现性能的大幅提升。过去一年发布的大多人工智能模型都是在英伟达2022年发布的Hopper架构上进行训练的，该架构被用于英伟达H100等芯片。

“Hopper很棒，但我们需要更大的GPU。”英伟达创始人兼首席执行官黄仁勋表示。此次新的人工智能图形处理器名为Blackwell，为纪念著名数学家David H. Blackwell而命名。他从口袋里掏出一块 Blackwell芯片，将其与Hopper芯片并排举起，后者显得小了一些。黄仁勋表示，“Blackwell GPU是推动这场新工业革命的引擎。”

英伟达正在用更强大的芯片吸引客户，刺激新订单。Blackwell GPU很大，将两个单独制造的芯片集成到一个芯片中。英伟达将一个单独的Blackwell GPU称为B200 GPU，它由大约2080亿个晶体管组成，超过Hopper晶体管数量的2.5倍，使用台积电定制的4NP工艺制造。而一对B200与英伟达Grace CPU相连，创造出GB200 Grace Blackwell超级芯片。

英伟达表示，基于Blackwell的处理器，如今年晚些时候将发货的GB200，可为人工智能公司提供了巨大的性能升级，AI性能达到20 PetaFLOPS（1 PetaFLOPS等于每秒1千万亿次浮点运算），而H100为4 PetaFLOPS。Blackwell GPU的训练性能是上一代Hopper GPU的4倍，推理性能是30倍，能源效率约25倍。

英伟达表示，额外的处理能力将使人工智能公司能够训练更大、更复杂的模型。Blackwell的六项革命性技术共同使得AI训练和大模型实时推理的规模扩展到10万亿参数。GB200也将成为下一代系统的基础。英伟达将提供GB200 NVLink 2的完整服务器，该服务器结合了72个Blackwell GPU和其他用于训练人工智能模型的英伟达部件。

据CNBC报道，亚马逊、谷歌、微软和甲骨文将通过云服务出售GB200的访问权限。英伟达表示，亚马逊网络服务（Amazon Web Services）将构建包含2万个GB200芯片的服务器集群，该系统可部署一个27万亿参数的模型。反观大模型GPT-4，参数为1.7万亿。基于Hopper架构的H100芯片售价在2.5万至4万美元，但英伟达没有透露GB200或该服务器集群系统的价格。

英伟达还推出了一款名为NIM的创收软件，它将使人工智能的部署变得更加容易。NIM软件包根据英伟达的加速计算库和生成式AI模型构建，可以帮助那些想要运行自己的AI模型的公司，而不是从OpenAI等公司购买访问权。英伟达高管表示，英伟达正从芯片供应商转变为像微软或苹果公司那样的平台提供商，其他公司可以在平台上开发软件。

“可销售的商业产品是GPU，而软件则是为了帮助人们以不同方式使用GPU。”英伟达企业副总裁曼纽尔·达斯（Manuvir Das）表示，英伟达的新软件将使程序更容易在英伟达的任何GPU上运行。“如果你是开发者，你有一个有趣的模型，你希望人们采用，如果你把它放在NIM中，我们会确保它在我们所有的GPU上都能运行，这样你就能触达很多人。”

英伟达将与微软或Hugging Face合作，确保它们的人工智能模型能够在所有兼容的英伟达芯片上运行。然后使用NIM，开发人员可以在他们自己的服务器或基于云的英伟达服务器上有效运行模型，无需冗长的配置过程。英伟达表示，该软件还能在配置GPU的笔记本电脑上运行人工智能，而不是在云服务器上运行。

对于英伟达此次发布，深圳中欧基金投资有限公司（即“中欧资本”）董事长张俊对澎湃科技（www.thepaper.cn）表示，英伟达的技术、产品和业务处于一个竞争最为激烈的领域，其特点是技术变革迅速和行业标准不断发展。英伟达预计竞争将会更加激烈，竞争来自现有竞争对手和新市场进入者。尤其是新进入者，也是潜在的颠覆者。

“第四次工业革命的火车头就是5G/6G通信和AI人工智能。对我们来说，挑战还是很严峻，因为美国人工智能芯片又一次遥遥领先。大国博弈的科技战，这本质上是中美之间的算力大战。人工智能这一场百年未有之大变局，只能是优胜劣汰、适者生存。”但张俊表示，最大的危险也是最大的机遇，国产替代“到了提枪上马的时刻”，对中国的GPU芯片公司来说，这是一个千载难逢的时间窗口，国产替代需要把卡脖子技术重做一遍。