皇冠hg86a

谁有GPU，谁等于云公司

对于英伟达总有新的音信让你惊诧。

最近的一则来自好意思国的一家云初创公司 CoreWeave 。

这家公司告示融资23亿好意思金，而更让东说念主惊骇的是这笔钱的典质物是其领有的GPU。在大模子激越下，GPU俨然成为一种硬通货，而CoreWeave之是以能有如斯多的英伟达稀缺物品，是因为它以前的身份——北好意思最大的矿工。

当时它有进步五万台GPU用来挖矿，在濒临挖矿的弗成握续性后，CoreWeave把眼神转向AI等需要并行计较的领域，并在 ChatGPT 爆红之前就采购了无数英伟达芯片——当时芯片的产能还充足充分。

由此，CoreWeave自称是寰球上唯独一个不错大范畴提供H100算力的公司，也摇身一造成为了一家“云厂商”。

是的，它的GPU供给卓越了统统云处事巨头，包括谷歌云、云和微软的Azure。

这听上去有些奇特，即使是不谈GPU数目瓶颈，构建数据中心还需要巨量的资本，小巧的空间、动力和散热想象以及荒谬复杂的软硬件协同，一般来说，能餍足这些条目的只但是巨头，而不是刚进行了B轮融资（4.21亿好意思元）的初创公司。

CoreWeave 能作念到这极少，源于一种对数据中心迥然相异的暴露。

传统的数据中心由CPU组成，它们侧重于通用计较的智商，主要由最开动是英特尔，自后是AMD的芯片所足下。

但全新的用于加快计较的数据中心则更强调并行计较，这就意味着它需要有更大的内存、带宽以及把统统的加快计较单位密切贯穿起来的智商，英伟达独创东说念主和CEO黄仁勋称这个经过为“数据中心当代化”，在他看来这是一个将握续10年的周期。

这个新周期的开动预示着总共数据中心的建构步地，软硬件协同乃至电源和散热结构都需要再行想象。这让统统的云处事提供商险些重回起跑线——针对 CPU 想象的上一代的数据中心有策划险些皆备无法照搬。比如英伟达贯穿繁密GPU集群所用到的 Infinite Band 时间需要进步500英里的电缆，这在传统的数据中心想象中根底不存在。

CoreWeave举了另一个例子，调换时势大小，GPU 集群所需要的电力是传统数据中心的 4 倍，因此新数据中心的电力系统和散热系统都需要皆备再行想象，这以至还不算软硬件协同的资本。

霸占先机的CoreWeave由此不仅能提供繁密的H100算力，而且在比其它的云处事快几十倍的同期用度还低80%，能作念到这些，咱们不错将其归功于它很早就精确践行了黄仁勋关联数据中心的愿景——数据中心正在向加快计较见识滚动，而紧缺的算力则通过云供应。

就这样，一家臆造币挖矿公司就造成了一家当红的云计较公司，只因为它是最衷心的英伟达徒弟。

英伟达云是个什么云

谁有英伟达的GPU谁等于最红的云厂商，那么谁有最多的英伟达GPU？显豁是它我方。

于是在扶握雷同的云初创企业的同期，英伟达也在开导我方的云。

英伟达切身下场作念云的上风有许多，最显豁的是它不受到GPU供需联系的困扰。马斯克曾在公开场合说，获取GPU比获取毒品要难多了，而CoreWeave之是以能提供超大范畴的 H100 算力，据悉也和英伟达的充分供应关联——英伟达在几个月前参与了CoreWeave的 B 轮融资。

皇冠客服飞机：@seo3687

但显豁，只是投一些初创公司还不够，生成式 AI 对算力的巨大需求最终让英伟达我方下场。在本年3月的GTC大会上，英伟达推出了我方的云处事DGX Cloud ，它已在年中庄重上线。

从名字就不错看出，DGX Cloud 径直诈欺了英伟达DGX超等计较机的智商，云的每个实例均配备8个H100或A100 GPU以及640GB内存。

DGX Cloud 罗致了一种低蔓延结构，让繁密的职责流不错在集群之间膨胀，于多个计较节点上并行分拨。举个例子来说，起初告示与DGX Cloud协作的甲骨文，它在OCI Supercluster上每个集群不错部署进步3万个A100 GPU，由此大模子不错在云上进行检修。用户在职何地点都能目田拜谒属于我方的 AI 超等计较机（英伟达暗意算力的分拨是独享排他的），打交说念的唯有前台界面，除了开导经过本人无谓再去顾忌任何和硬件基础要道关联的问题。

这项处事罗致月租式样，金额高达近 4 万好意思元。虽然，比较径直买一台 DGX 处事器 20 万好意思元的价钱来说如故低廉了许多，但不少东说念主都指出，的 Azure 不异 8 个 A100GPU 的收费唯有不到 2 万好意思元，险些是前者的一半。

为什么这样贵？因为英伟达的云处事和别家不同，它不仅包括算力，还包括一整套 AI 科罚有策划。

名为Base Command Platform（基础大叫平台）和 AI Enterprise 的两项处事被集成到了DGX Cloud里。前者是一个料理与监控软件，不仅不错用来记载云霄算力的检修负载，提供跨云霄和土产货算力的整合，还能让用户径直从浏览器拜谒 DGX Cloud。后者则是英伟达 AI 平台中的软件层，高达数千个软件包提供了各式预检修模子、AI 框架和加快库，从而简化端到端的 AI 开导和部署资本。除此以外，DGX Cloud 上还提供名为 AI Foundations 的模子锻造处事，让企业用户不错使用我方的独荒芜据定制属于我方的垂直大模子。

这套软硬件组合起来的好意思满科罚有策划让 DGX Cloud 检修速率比较传统的云计较提高了两到三倍，这成为了DGX Cloud与传统云处事最大的不同，它很好的空洞了英伟达两方面的强项：AI 生态和算力。对于英伟达来说，“软件即处事”这句话似乎应该改成“软硬件一体即处事”，DGX Cloud 麇集代表了一个硬件厂商进取垂直整合的智商天花板。

黄仁勋的贪心和推行

但这并不虞味着英伟达就透顶掀了传统云厂商的桌子。它的这项处事是通过传统云厂商来提供的。DGX Cloud 最开动被告示推出在甲骨文云上，随后微软和谷歌跟进，而英伟达与这些云厂商协作的步地显得颇为意旨：英伟达先把 GPU硬件卖给这些云协作伙伴，然后再租用这些硬件以便运行DGX Cloud。

有东说念主戏称这叫双方钱通盘赚，都不犹豫。

骨子上，黄仁勋施展过这种模式：“咱们从让客户使用咱们的计较平台中受益，而客户通过将咱们（的计较平台）置于他们（云厂商）的云中而受益。”

若是只听黄仁勋说，这等于个皆大应允的双赢结局，关联词这只是他一贯的叙事汉典。英伟达一经堕入与我方客户的竞争中，而且心知肚明。

DGX Cloud 弘扬告诉咱们，黄仁勋并不想象只是把它交接于传统云厂商上。在八月的 SIGGRAPH 2023上，英伟达先是告示了与 Hugging Face 的协作，接着发布了名为AI Workbench的处事。它们都不错让用户肤浅创建、测试和定制预训大模子，其背后的算力复古当然都包括了 DGX Cloud。

这显豁会冲击英伟达和云厂商的联系：最主要的云处事商，包括谷歌、亚马逊和微软，它们不异亦然英伟达的大客户，英伟达履行自有云处事例必会抢掠它们的市集份额。特别是咱们在第一部分一经谈到，看成数据中心和云处事巨头的它们在构建下一代数据中心的问题上原来就不具备些许上风，若是再探求到英伟达芯片产能“卡脖子”的问题，英伟达的自有云处事威迫弗成谓不小。

黄仁勋不会不知说念这极少，因此他对DGX Cloud 的魄力就显得颇值得玩味了，比如他公开暗意，一个顺应的云处事组合比例应该是10%英伟达DGX加上90%的公有云。换而言之，DGX Cloud 在黄仁勋的定位里并不是传统云厂商的敌手与威迫，而是协作伙伴。

在 Q1 季度财报公布后的分析师电话会上黄仁勋谈的更多的都是这种协作的公道，“一个巨大的双赢”，黄仁勋如斯描摹。在他的暴露里，DGX Cloud 是一个隧说念的英伟达堆栈（pure Nvidia stack），把东说念主工智能开导、大型数据库和高速低蔓延收集组合在通盘，成为一种肤浅的AI 基础要道从而掀开全新的、巨大的市集——这个市集的参与者包括了英伟达和传统云厂商，寰球将共同受益于生成式 AI 的爆发。

奋力于避谈冲突，其实是因为，DGX Cloud 就怕很万古期内都只可保管一个较小的体量。

第一个原因虽然是算力的瓶颈。“订单多到弗成念念议”是黄仁勋描摹数据中心业务量时的描画，英伟达的中枢要务虽然是开导并保证出产尽可能多的相宜市集需求的先进芯片，不然云处事的范畴是无法扩大的。

尽管台积电在马不休蹄的出产，但值得崇敬的是算力缺口不是变小而是更大了，因为一朝大模子落地和营业化（比如像ChatGPT那样），其推理资本将跟着用户范畴的莳植指数级升高，永恒来看会比检修模子的算力需求大得多（有东说念主给出的倍率是 100）。

此外亦然探求到英伟达和传统云厂商协作联系的复杂性。DGX Cloud若是看成一种隧说念的竞品出现，大要会占领可不雅的市集份额，但例必进一步加快云厂商开脱对英伟达的依赖——它们原来就一经为了少交点“英伟达税”而一辞同轨地自研芯片了。

从另一个角度讲，全力扩大 DGX Cloud 范畴可能也不相宜英伟达的最好利益。从芯片到游戏显卡再到处事器和数据中心，英伟达绝少我方制造硬件居品，它更心爱和OEM 厂商协作——以至于许多时候你要采购英伟达芯片都如故得经过 OEM 厂商。这让英伟达很好的截止资本，保管利润率。

今天英伟达和云厂商之间似乎保管了一种均衡，但均衡等于用来攻击的，尤其当一方是英伟达的时候，毕竟脚下才是黄仁勋所谓“下一代数据中心十年”更新周期的第一年。