英伟达开卷价钱，最新blackwell gpu架构/资本揭秘，彰显老黄的“仁慈”

李博宇 2024-04-04 02:31 175

"英伟达开卷价钱，最新blackwell gpu架构/资本揭秘，彰显老黄的“仁慈”,这篇新闻报道详尽，内容丰富，非常值得一读。这篇报道的内容很有深度，让人看了之后有很多的感悟。作者对于这个话题做了深入的调查和研究，呈现了很多有价值的信息。这篇报道的观点独到，让人眼前一亮。 " 账号设置我的关注我的收藏申请的报道退出登录登录搜索36氪Auto数字时氪将来消费智能涌现将来城市启动Power on36氪出海36氪研究院潮生TIDE36氪企服点评36氪财经(Finance)职场bonus36碳后浪研究所暗涌Waves硬氪媒体品牌企业号企服点评36Kr研究院36Kr创新咨询企业服务核心服务城市之窗行政部门服务创投发布LP源计划VClubVClub投资机构库投资机构职位推介投资人认证投资人服务寻求报道36氪Pro创投氪堂企业入驻创业者服务创投平台首页快讯资讯推荐财经(Finance)科技(Technology)企服城市最新创投汽车(Car)AI创新直播视频专题活动搜索寻求报道我要入驻城市合作英伟达开卷价格，最新Blackwell GPU架构/成本揭秘，彰显老黄的“仁慈”新智元·2024-04-03 08:56关注英伟达也不得不开始卷了

老黄的新GPU又在深夜炸场，震撼了所有的观众。

除了硬件参数上的震撼之外，大家伙最想知道的还是新GPU的售价会不会同样震撼。

下面就让我们(We)从规格参数、工艺节点、封装设计等方面来深入分析一下新一代Blackwell GPU的系统、定价、利润，以及Jensen's Benevolence（老黄的仁慈）

在这个大模型的时代，英伟达正处于世界之巅，拥有至高无上的定价权。

需要AI算力的用户没有更好的选择，于是不得不接受英伟达「用银汤匙喂给他们(They)的东西」，——毛利率超过85%的H100就是最好的例子。

而这一代B100在性能和总体拥有成本方面的优势依然保持不变，超越了AMD的MI300X、英特尔的Gaudi 3。

不过这次新系列GPU的定价，可能会让很多人大吃一惊，也许我们(We)会说「B」代表的不是「Blackwell」架构，而是「Benevolence」（老黄的仁慈）。

——因为AI时代的主宰和救世主黄仁勋正在向全世界微笑，尤其是对于「GPU-poor」（缺乏GPU的用户）来说。

01 B100 / B200规格

首先，Blackwell架构将2个GPU芯片粘在了一起，而工艺制程仍然保持在4nm，跟上一代的Hopper架构一样。

——在以往发布的最新数据中心GPU上，英伟达都会采用更新的工艺制程，而这一次没有。

这是因为台积电最初的3纳米N3B工艺存在问题，所以英伟达不仅没有吃到提升制程的红利，还不得不把硅片的总量增加一倍。

此外，新架构使用了8-hi HBM3E，容量高达192GB，这些显存的供应商是SK Hynix和Micron。

尽管其中绝大部分来自SK Hynix，但这也改变了SK Hynix作为H100显存唯一供应商的局面。

至于早就宣布要开发"世界上最快"的HBM3E的三星，目前(Currently)仍然差点意思。

GPU的进化趋势是在更大的封装中使用更多的硅片（包括逻辑和存储器），而目前(Currently)硅基插值器（silicon-based interposers）的尺寸已达到极限。

尺寸的增大会使硅片的生产面临更多问题，从而降低产量。相比于上一代，B100的封装尺寸要大得多，它将成为首款采用CoWoS-L的大容量产品（CoWoS-L是一种带有无源硅桥的有机RDL基底面）。

Umbriel 和 Miranda

Blackwell的第一个版本代号叫Umbriel，它保留了前代PCIe Gen 5、400G网站等，B100风冷式700W甚至可以无缝接入现有的H100和H200服务器底板。

不过B200的功率上限将提高到1000W，就需要重新设计服务器了。当然也有信息显示，1000W版本仍然可以采用风冷方式，令人感到意外。

标准版GPU的代号是Miranda，拥有PCIe Gen 6和800G的网站，而显存容量更是高达192GB。

目前(Currently)，英伟达已经买断了所有36GB HBM的供应，SK Hynix和Micron将在明年初开始生产。这意味着，每块GPU的容量实际上可以达到288GB。

GB200平台

在供应链中，每个人都在讨论(Discuss)的产品是Oberon GB200平台，新平台解决了GH200的许多问题。

首先，GB200将所需的CPU数量减半，从而在总体拥有成本（TCO）上占据了优势。——GH200的价格实在是太贵了，而大多数的AI负载，实际上用不到服务器上昂贵的英伟达Grace CPU所提供的功能。

很多时候，GH200中的Grace芯片只是充当了世界上最昂贵的内存控制器。在可以单独购买GPU的场景下，基本上所有AI大公司都会选择买更多的GPU，而不是英伟达的CPU。

另一方面，英伟达正试图销售带液体冷却的集成机架。

英伟达不愿意单卖GPU可能者NVSwitch，虽然让一些用户感到不满，但由于交换机背板、电源汇流排和冷却系统的集成度要求很高，也算是无可厚非。

在新的液冷机架中，CPU、GPU、NVSwitches和ConnectX7网卡全部采用水冷技术。

机架有两个版本：一种是120kW，可容纳72个GPU（总功率有点过分了），机架顶部有10个计算托盘，中间有9个NVSwitch托盘，底部有8个计算托盘。

每个计算托盘包含4个GPU、4个网卡、2个CPU、768GB HBM和2,000GB LPDDR5X。这个版本会晚一些上市。

另一种是功率较低的版本，这版本的机架有36个GPU和9个计算托盘，可以通过NVLink扩展连接两个机架。

对大多数公司来说，这个版本可能更容易部署。英伟达已通知机架的ODM厂商准备明年生产50,000个机架。

02 被卷到了

尽管B100为最终用户提供了更好的性价比，但本身的制造成本却增加了一倍以上。

SemiAnalysis表示，对于大批量超大规模定价，B100基板的平均售价仅仅约240,000美元。这对许多人来说是一个惊喜(Surprised)，因为这远低于ASP逐代增长50%的预期。

那么为什么老黄的定价会如此仁慈？答案是被卷到了。

AMD的MI300目前(Currently)成为了合格的竞争对手，已经成功(Success)拿到了英伟达最大的两个客户Meta和微软的大订单，尽管AMD为此承担了很大的技术风险、并尽力降低了利润。

而另一方面，英伟达的所有主要客户都在设计自己的芯片。虽然迄今为止，只有谷歌取得了成功(Success)，但亚马逊仍在继续推出Inferentia和Trainium，Meta也在长期押注MTIA，微软同样开启了芯片之旅。

英伟达的防御形态

很明显，生产成本翻倍，但售价增加得不算太多，B100的利润率肯定是赶不上前代了。

H200也是如此，它的ASP与H100相同，但HBM显著增加，从而增加了BOM。

而H20则更糟糕，尽管价格卖的更低，但实际上它与H100使用了相同的GPU芯片，HBM容量也从80GB增加到96GB，因此总体BOM成本实际上也增加了。

——以上的分析虽然听起来很可怕，不过别担心，毛利率只会再下降几个百分点而已。

SemiAnalysis对此评价道：“英伟达更关心毛利润和市场份额，而不是毛利率。过分担心几个百分点是精打细算的人所做的事情，而不是像黄仁勋这样的有远见的人所做的，他想以仁慈的计算独裁者的身份统治世界。”

毕竟，英伟达在数据中心上的收入持续飙升，并且正在达成供应链多元化，从800G收发器到电力传输组件，——老黄正在下一盘大棋。

也许，随着时代的发展，英伟达这个显卡帝国可能不得不转换成防御形态，因为硬件和软件上的护城河，都不会永远坚不可摧。

但也许，新的帝国正在诞生之中。

参考资料：

https://www.semianalysis.com/p/nvidia-b100-b200-gb200-cogs-pricing

本文来自微信公众号“新智元”（ID:AI_era），作者：新智元，36氪经授权发布。

该文观点仅代表作者本人，36氪平台仅提供信息存储空间服务。

+11

好文章，需要你的鼓励

新智元特邀作者5收藏+10评论打开微信“扫一扫”，打开网页后点击屏幕右上角分享按钮微博沉浸阅读返回顶部参与评论评论千万条，友善第一条登录后参与讨论(Discuss)提交评论0/1000你可能也喜欢这些文章无问芯穹夏立雪：破解算力焦虑，我做了大模型算力领域的“淘宝”丨36氪专访从物理学到AIGC，Suno出现后做音乐(Music)还有前途吗？6人7 页PPT融资8个亿，AI在吹起资本泡沫？各地广电“抢滩”布局AIGC的获与惑终于，又一AI新品“登顶”米国总榜ChatGPT不用登录就能用了，但真没啥卵用。。。让霉霉说地道中文的 AI，又惊艳升级了腾讯、抖音(Tik Tok)齐上阵，AI社交方向转为AI伴侣6年亏500亿，商汤苦寻解药最新文章推荐48家北交所公司披露2023年年报超六成达成净利同比增长王健林：做生意没有捷径，就是富贵险中求小家电出海指南：内练产品，外扩渠道2023年全国涉房收并购同比下降7.1%，公寓和酒店回暖玻璃基板，来势汹汹流水媲美《原神》，微信捧出游戏(Game)新王成为优秀的跨文化(Culture)领导者，只需做对四步Q1剧集市场复盘：2024爱优腾谁在领跑国产剧市场？橡树在狩猎什么？三闯资本市场，小米看好的智驾公司赴港IPO

新智元特邀作者

作者有点忙，还没写简介

发表文章2031篇最近内容英伟达开卷价格，最新Blackwell GPU架构/成本揭秘，彰显老黄的“仁慈”1小时前ChatGPT官宣免注册，全球互联网变天，OpenAI将取代谷歌搜索？22小时前谷歌狂喜：JAX性能超越Pytorch、TensorFlow，可能成GPU推理训练最快选择昨天(Yesterday)阅读更多内容，狠戳这里下一篇世纪佳缘们，学学开封王婆

婚恋平台和恋综的“坑”，被王婆补上了。

1小时前

热门标签完达山奶粉北大荒张沫凡产业结构优化高附加值风险点payoneer我独自生活(Life)日日顺百视通上海文广英镑汇率心理账户m17三角洲离岸鞋离岸运动员冷冻电镜搬家公司收费情况罗迦陵哈同成份股规模化养殖场乐居群星vfx电容话筒文书摩根大通银行刘看山关于36氪城市合作寻求报道我要入驻投资者关系商务合作关于我们(We)联系我们(We)加入我们(We)网站谣言信息举报入口热门推荐热门资讯热门产品文章标签快讯标签合作伙伴