3 分钟

Nvidia 历史:从图形创业公司到 AI 基础设施

追溯 Nvidia 从 1993 年 NV1 的冒险,到 GeForce、CUDA、AlexNet、Blackwell、Rubin,以及支撑其 AI 领先地位的全栈系统的发展历程。

Nvidia 历史:从图形创业公司到 AI 基础设施

为什么 Nvidia 的历史值得关注

Nvidia 的崛起说明,一枚专注图形的芯片如何成为现代 AI 计算的基础。公司从消费级 3D 图形起步,经历过一次几乎致命的架构失误,在市场尚未成形前就建立了可编程计算平台,随后多年持续把单个加速器发展为完整的数据中心系统。

不同人至今仍从不同角度认识这家公司。玩家熟悉 GeForce 显卡、光线追踪和 AI 辅助渲染。研究人员熟悉用于科学计算的 CUDA 库和加速器。云服务运营商购买高密度系统,其中包含 GPU、CPU、网络设备、交换机和管理软件。投资者则看到,这家公司的收入结构以少见的速度从游戏转向 AI 基础设施。

这些业务由一个反复出现的理念串联起来:CPU 不应执行所有类型的计算。Nvidia 不断找出包含大量并行工作的负载,为它们设计专用处理器,再以软件让这些处理器真正可用。图形带来了最初的大众市场,科学计算带来了要求苛刻的早期用户,深度学习则让加速计算成为数据中心的优先事项。

这一结果从来不是注定的。NV1 为最终胜出的标准采用了错误的图形基本单元。CUDA 在带来实质收入前,需要多年软件投入。Nvidia 在成熟 CPU 厂商的阵地进入服务器市场,以 69 亿美元收购网络公司,并投入开发机架级液冷系统,这些系统远比插卡难以制造。

三个决定解释了很大一部分结果:

  • Nvidia 把软件、库和开发者支持当作产品,而不是芯片的附属品。
  • 它利用游戏市场的规模,为之后服务研究和数据中心负载的架构提供资金。
  • 只要内存移动或网络等其他瓶颈限制了实际性能,它就会围绕 GPU 向外扩展。

这一模式对工程师和创业者很重要,因为芯片原始规格只讲述了部分故事。只有当开发者能为处理器编程、系统能将其扩展、客户能稳定运营,而且每一代新产品都能以较少干扰运行已有软件时,处理器才能成为持久的平台。

创立 Nvidia,以及在第一次错误转向后存活下来

Nvidia 由 Jensen Huang、Chris Malachowsky 和 Curtis Priem 于 1993 年 4 月 5 日创立,目标是把高性能 3D 图形带入消费级 PC。Huang 曾在 AMD 从事微处理器设计,在 LSI Logic 从事芯片集成。Malachowsky 和 Priem 来自 Sun Microsystems,带来了图形和系统经验,Priem 此前也在 IBM 工作过。三人在一家 Denny's 餐厅会面,逐步勾勒出后来成为 Nvidia 的计划。

当时机会很大,却尚未稳定。专业 3D 图形主要存在于昂贵的工作站上,用于计算机辅助设计、可视化和媒体制作。消费级 PC 的处理器更快,配备 CD-ROM 驱动器和更好的显示器,游戏市场也在扩大,但图形硬件仍然高度分散。数十家半导体公司都在争夺同一个机会。

Nvidia 的第一款产品 NV1 于 1995 年推出,并搭载在 Diamond Edge 3D 卡上。它将 2D 和 3D 图形、音频与 Sega 手柄支持集于一身。其影响最深远的设计选择是二次纹理映射,它基于曲面,而 Microsoft Direct3D 和行业大部分参与者最终采用的是三角形多边形。

NV1 可以运行针对其架构编写的软件,包括 Sega 的《Virtua Fighter》PC 版。但当基于三角形的 API 获得势头后,开发者没有太多理由支持一个小众的专有目标。技术雄心勃勃的芯片因此在平台兼容性变得决定胜负之际,遭遇了软件短缺。

Nvidia 与 Sega 的合作还产出了另一个图形项目,通常被称为 NV2。Huang 最终认定继续该架构会浪费两家公司的时间。Sega 终止了游戏机项目,但提供了资金支持,帮助 Nvidia 将剩余资源重新导向。那次经历让这家创业公司几乎没有再犯错的空间。

替代方案聚焦于标准、进度和更窄的产品定义。Nvidia 缩减员工规模,采用三角形渲染,并围绕 Direct3D 设计 NV3。这款芯片后来成为 1997 年发布的 RIVA 128。它在上市前四个月出货超过 100 万颗,为 Nvidia 带来收入和 PC 制造商的信任。

这次自救形成了几种延续到创业期后的经营习惯。当市场已经选定不同的编程标准时,Nvidia 会放弃再优雅的设计。它会以快速节奏发布硬件和驱动程序,也会直接与软件开发者合作,因为没有兼容游戏的图形处理器只是库存,不是平台。

Nvidia 在 1998 年通过与 TSMC 的制造合作,正式确立无晶圆厂模式。它不自建昂贵的晶圆厂,而是将开支集中在架构、软件和产品设计上,依赖外部代工厂。这一结构支持了快速增长,但随着先进制造产能集中在台湾,它也形成了越来越重要的依赖。

Nvidia 于 1999 年 1 月以每股 12 美元完成首次公开募股。IPO 没有结束运营压力。图形技术的迭代很快,驱动质量会影响每一篇产品评测,3dfx、ATI、Matrox 和 S3 等对手仍可能凭一次强势发布夺走客户。

RIVA、GeForce 与 PC 图形竞争

RIVA 和 GeForce 通过有竞争力的芯片、持续的驱动支持和广泛兼容性,奠定了 Nvidia 的地位。RIVA 128 证明公司可以从 NV1 的挫败中恢复,RIVA TNT 和 TNT2 则在开发者正在采用的各类 API 中提升了色深、画质、多重纹理处理和性能。

20 世纪 90 年代末的 PC 市场奖励这种组合。一张快速显卡若驱动崩溃、游戏渲染错误,或落后于新的 DirectX 版本,仍会令人失望。Nvidia 把驱动程序视为持续的工程责任,通过频繁更新支持新游戏并修复问题。这一做法后来帮助公司管理规模大得多的计算软件栈。

1999 年,Nvidia 推出 GeForce 256,并将其称为首个图形处理器,即 GPU。它的历史意义不在于谁拥有这个词,而在于其描述的架构变化。GeForce 256 集成了硬件变换与光照功能,把原本由 CPU 执行的几何计算转移到图形处理器中。

这种卸载让开发者能把更多资源留给游戏逻辑、物理效果和更丰富的场景,也扩展了图形加速的定义。处理器不再只是把贴图像素放到屏幕上的固定设备。每一代产品都吸收更多渲染流水线环节,并向软件开放更多控制能力。

Nvidia 通过大型 PC 制造商和游戏开发者巩固地位。OEM 设计订单让其芯片进入主流系统,开发者关系则帮助工作室为 GeForce 硬件调校作品。公司还赢得了 Microsoft 初代 Xbox 的图形合约,获得了为完整平台供货的经验,必须同时满足严格的性能、成本和交付要求。

竞争始终激烈。Nvidia 在 2000 年同意收购 3dfx 的核心资产,后者的 Voodoo 显卡定义了早期发烧级 3D 游戏。ATI 仍是独立竞争对手,后来成为 AMD 的一部分。Nvidia 可能在一代产品领先、下一代失足,DirectX 9 时代部分市场对 GeForce FX 系列的负面反响就是例子。

公司的回应是更快修正架构。GeForce 6 恢复了竞争力,后续产品又加入统一着色器、更强的可编程性和不断增长的浮点吞吐量。Nvidia 针对不同买家保留了不同品牌:面向消费者的 GeForce、面向专业可视化的 Quadro,以及后来面向计算加速器的 Tesla。

图形技术持续为 AI 提供跨领域的技术思路。可编程着色器让 Nvidia 了解开发者如何使用并行执行。纹理和帧缓冲需求推动了内存带宽的发展。多 GPU 游戏带来了互连和工作负载分配的经验。在推出新硬件的同时支持旧游戏,也形成了一种软件兼容性,纯硬件创业公司经常低估这一点。

2018 年,Nvidia 以 Turing 架构和 GeForce RTX 更新了渲染模式。专用 RT Cores 加速光线交叉计算,Tensor Cores 支持 Deep Learning Super Sampling 等神经网络方法。渲染越来越多地结合传统光栅化、光线追踪和学习式重建,而非依赖单一技术。

基于 Blackwell 的 GeForce RTX 50 系列于 2025 年推出,配备第四代 RT Cores、第五代 Tensor Cores、神经着色器和 DLSS 4,延续了这一融合。因此,即使数据中心成为更大的业务,游戏也不只是 Nvidia 最初的现金来源,仍是 AI 辅助图形和本地模型推理的重要部署渠道。

可编程着色器打开通用计算之路

可编程着色器改变了 Nvidia 的战略方向,因为它表明图形处理器可以在固定渲染流水线之外执行有用程序。早期 GPU 包含用于几何、光照、纹理应用和像素输出的专用阶段。它们之所以快速,是因为硬件高度专用,但开发者只能修改有限的一组设置。

2001 年发布的 GeForce 3 支持可编程顶点着色器。之后数代产品中的像素和片段程序能力不断增强。游戏开发者用它们实现自定义光照、水面、皮肤、阴影和后处理效果,研究人员则开始把同一类处理器当作低成本并行机器。

这些研究实验很别扭。想执行矩阵运算的科学家,往往要把数据表达成纹理,把计算表达成绘制操作。结果可能被写入帧缓冲,再通过图形 API 读回。硬件拥有出色吞吐量,但编程方式要求掌握与科学问题无关的图形知识。

实验仍揭示出有利的经济结构。游戏市场足够大,可以为拥有大量算术单元和高带宽内存的大型芯片提供资金。研究人员能以远低于定制科学处理器的价格购买这些硬件。只要 Nvidia 提供合适的编程层,同一笔晶体管投入就能同时服务娱乐和技术计算。

Nvidia 转向统一着色器架构,让成组的可编程处理器处理不同的着色器阶段,而不是为每个阶段分配独立硬件。GeForce 8 系列及其 G80 架构让这一模式获得商业意义。统一资源池提升了图形利用率,也为通用计算提供了更规整的执行目标。

GPU 计算也带来了塑造后来产品的限制。并行硬件擅长处理大量相似操作,并且需要足够多独立工作来填满数千条执行通道。分支很多的串行代码可能更适合 CPU。如果应用在处理器内存之间反复移动少量信息,数据传输会抹去加速收益。只有内存容量、带宽和通信能持续供给计算单元时,快速算术才有价值。

这些限制解释了 Nvidia 后来的扩展。CUDA 解决可编程性,高带宽内存解决本地数据供给,NVLink 解决处理器之间的数据移动,Mellanox 网络解决服务器之间的通信。历史从一颗芯片向外延伸,因为每解决一个瓶颈,就会暴露下一个。

CUDA 把 GPU 硬件变成计算平台

CUDA 为程序员提供了直接的并行计算模型,也形成了竞争对手仅靠更快芯片无法回应的软件承诺。Nvidia 在 2006 年公布这一架构,2007 年发布首批开发工具,开发者可以编写类似 C 的 kernel,而不必把问题转换为图形操作。

这一编程模型提供线程、块、网格、共享内存和设备内存。开发者仍需要理解并行工作和数据移动,却不必再把数值数组假装成图像。这一区别把硬件开放给了对渲染毫无兴趣的科学家、工程师和量化开发者。

随后 Nvidia 为平台采用中不那么显眼的部分投入资金:编译器、调试器、性能分析工具、文档、示例、大学课程,以及跨代 GPU 的兼容性。对不愿自己编写 kernel 的用户而言,库的作用最大。cuBLAS 提供调优后的线性代数,cuFFT 处理快速傅里叶变换,后续库又覆盖稀疏运算、随机数、成像、数据分析等领域。

早期采用来自并行结构明显的工作负载:

  • 分子动力学和计算化学
  • 地震处理和医学成像
  • 期权定价和蒙特卡洛模拟
  • 线性代数和科学求解器
  • 信号处理和计算流体力学

性能宣传需要谨慎看待。GPU 可以把某个 kernel 的执行时间从数小时缩短到数分钟,但整个应用仍可能受输入处理、串行工作或通信限制。持久的收益来自团队围绕加速器重构完整工作负载,而不是把它当成所有 CPU 指令的直接替代品。

Nvidia 通过研究资助、大学项目、开发者活动和 GPU Technology Conference 支持这类工作。学生学习同一种编程环境,研究人员以它发布代码,雇主随后雇用已经熟悉工具的人。库中则累积了多年优化和数值测试。

这带来迁移成本,但仅靠绑定无法解释持续使用。开发者会留下,是因为迁移成本大于收益,也是因为当前平台持续进步。Nvidia 通过向后兼容、广泛框架支持、调优库和新的硬件功能,让这种判断跨越多个产品周期依然成立。

CUDA 也改变了 Nvidia 内部。一家芯片公司可以在开始制造时宣布产品完成。计算平台则需要持续进行编译器工作、安全更新、库维护、文档维护和新编程框架支持。一块板卡的收入只确认一次,软件义务却贯穿它的可用寿命。

在 GPU 计算市场成熟前,这种长期投入看似昂贵。AI 需求加速后,它成为 Nvidia 最强的防线,因为新的加速器厂商需要对抗多年积累的可用代码和开发者经验,而不只是对抗基准测试成绩。

Tesla 与进军数据中心

让应用使用自己的域名
为你的 AI 项目建立一个简单网站,并使用自己的自定义域名运行它。

Tesla 产品线为 Nvidia 提供了进入服务器和超级计算机的专门路径,将计算产品与用于驱动显示器的图形卡区分开来。Tesla 加速器于 2007 年推出,强调数值性能、内存容量、可靠性功能,以及在高密度系统中的运行能力。

数据中心买家看重的限制条件与玩家不同。他们关心持续吞吐量、错误处理、散热设计、软件支持周期、可维护性、集群通信和单位功耗性能。双精度浮点对许多科学模拟很重要,即使它几乎无助于游戏。一次计算如果要在数千台设备上运行数天,纠错内存可能不可或缺。

国家实验室和大学成为早期标杆客户。Oak Ridge National Laboratory 的 Titan 超级计算机将 CPU 与 Nvidia K20X 加速器结合,并在 2012 年开始服务研究人员。Titan 这样的系统证明,GPU 加速能在生产级科学研究中以超级计算机规模运行,而不只是工作站演示。

专业可视化提供了另一座桥梁。Quadro 产品早已让 Nvidia 硬件进入工程、设计、电影和科研机构。在 AI 让加速器集群成为董事会级支出之前,这些关系帮助公司理解经过认证的应用、长期支持周期和机构采购。

云端访问扩大了市场。Amazon Web Services 率先推出 GPU 实例,Microsoft Azure、Google Cloud 和其他服务商随后跟进。研究人员和创业公司可以按小时租用加速器,无须购买服务器、寻找机房空间并自行维护驱动。这降低了实验成本,也让成功项目能在不重建本地基础设施的前提下申请更多容量。

硬件路线图经历了多种架构和产品系列。Kepler 提升能效和计算能力。Pascal 将 P100 与高带宽内存和 NVLink 配对。Volta 的 V100 引入用于密集矩阵运算的 Tensor Cores。Ampere 的 A100 扩大了混合精度支持和分区功能。Hopper 的 H100 以 Transformer Engine 和更快互连瞄准 Transformer 训练与推理。

每一代都提高理论吞吐量,但可用的集群性能取决于整个系统。运营商需要兼容的主机处理器、存储、网卡、交换机、供电、冷却、固件、调度器、容器和监控工具。单个加速器可以领先基准测试,但若集群失衡,昂贵的处理器仍会空等数据。

这使 Nvidia 转向系统工程。公司推出参考设计,与服务器厂商密切合作,之后开始交付整合设备。数据中心客户购买的是获得结果所需的时间,Nvidia 越来越多地掌握决定宣传中计算能力能否持续兑现的组件。

AlexNet 让深度学习成为商业方向

AlexNet 表明,经 GPU 训练的神经网络能在有实际意义的规模上超越既有计算机视觉方法。在 2012 年 ImageNet 竞赛中,Alex Krizhevsky、Ilya Sutskever 和 Geoffrey Hinton 使用两块各有 3 GB 内存的 GeForce GTX 580 GPU,训练网络约五到六天。它的错误率远低于其他系统,引发人们对深度卷积网络及训练硬件的关注。

神经网络适合 GPU,因为训练会反复在大型数组上执行矩阵乘法、卷积、激活函数和归约。这些操作含有足够多的并行工作来占满大量执行单元。GPU 的内存带宽也有助于供给计算,但模型规模和通信很快又形成新的限制。

这项突破是一次展示,不是完整的商业技术栈。研究人员仍需要可靠的基础算子、框架集成、多 GPU 通信和低精度运算方法。Nvidia 通过面向神经网络的软件与架构调整作出回应。

cuDNN 库于 2014 年首次发布,提供深度学习操作的优化实现。框架维护者只需集成一次,许多用户便能获得 GPU 加速,而无需编写自定义 kernel。Caffe、Theano、Torch、TensorFlow 和 PyTorch 都帮助把抽象层从单个设备指令进一步提高。

低精度改变了训练的经济性。许多神经网络操作并不需要 64 位浮点运算。只要软件能正确管理数值精度,处理 32 位、16 位、8 位及更小格式的硬件就能提升吞吐量并减少内存使用。2017 年引入的 Volta Tensor Cores 加速了适合这一模式的矩阵运算。后续架构又增加了面向 Transformer 和推理的格式与控制能力。

Nvidia 在 2016 年把这些组件封装进 DGX-1。这台 3U 系统结合了八个 Tesla P100 加速器、NVLink 连接、存储、网络和准备好的软件环境。实验室可以购买整合机器,而无需自行组装兼容组件并分别解决软件配置问题。

这种模式从销售处理器发展为销售 AI 计算机。HGX 为系统制造商提供底板和参考平台,DGX 扩展为更大的系统和 SuperPOD 设计。云服务商提供基于同代加速器的实例,企业也能在自己的服务器上部署相关软件。

Transformer 模型提高了规模的价值。训练更大的语言模型需要更多计算、更多加速器内存和更快的集合通信。提供这些模型又引入另一项经济指标:为用户生成 token 的成本与延迟。Nvidia 能同时覆盖两个阶段,因为其软件栈包含训练库、通信工具、推理优化和模型服务组件。

因此,生成式 AI 放大了 AlexNet 之前就开始的工作。2012 年的成果找到了并行处理器的高增长应用,而更早的 CUDA 投入使 Nvidia 在这一应用到来时成为最实用的平台。

软件生态成为竞争护城河

Nvidia 的软件生态降低了把加速器硬件变成可运行应用所需的工作量。它的价值来自解决不同问题的多个层次,而非单一专有接口。

CUDA 提供编程基础和运行时。CUDA-X 库提供用于数学、数据处理、通信、成像和机器学习的调优函数。NCCL 协调 GPU 之间的集合操作,当模型分布在许多设备上时不可或缺。TensorRT 用于优化已训练模型的推理,Triton Inference Server 则在支持的框架和硬件配置中管理模型服务。

更高层的工具面向完整工作流。RAPIDS 加速数据准备和分析。NeMo 提供开发与调整生成式模型的工具。NIM 将选定模型和推理组件封装为可部署微服务。Nvidia AI Enterprise 为希望拥有明确发布和维护流程的组织提供支持软件。

实际优势会不断累积。框架可以使用调优 kernel,而不要求每位用户都成为 GPU 专家。库可以采用新架构的指令,同时保持熟悉的应用接口。企业可以验证受到支持的驱动、容器、编排软件与服务器组合,而不必独立测试每一个组件。

兼容性从来不是自动实现的。新的精度格式可能影响模型准确性,编译器变更可能暴露旧代码中的假设,驱动、固件、容器和框架版本必须保持协调。Nvidia 在这些集成工作上投入很大,因为可预测的运行结果保护了硬件价值。

生态也通过合作伙伴延伸。服务器制造商围绕 HGX 和 MGX 设计系统,云服务商运营 GPU 实例和托管服务,软件供应商认证应用,顾问和系统集成商部署集群,大学培养开发者,创业公司通过 Nvidia 项目获得技术支持。

垂直平台复用相同的底层组件,并加入领域工具:

  • DRIVE 结合汽车计算、仿真、感知软件和开发工具。
  • Isaac 面向机器人开发、合成数据、感知和控制。
  • Clara 汇集医疗和生命科学工作流,例如成像与基因组学。
  • Omniverse 围绕 OpenUSD 连接仿真与协作式 3D 工作流。
  • Jetson 为机器人、相机和其他边缘系统整合加速器硬件与软件。

这些产品并不保证每个行业都会采用。汽车项目有很长的验证周期,医疗部署面临临床和监管限制,工业仿真需要准确模型并与既有运营数据整合。Nvidia 提供共同的计算基础,但客户和合作伙伴仍须完成大量领域工作。

护城河也可能减弱。开放框架正越来越多地将应用与厂商专属代码隔离开来。编译器项目可以面向多种加速器类型。AMD 的 ROCm 环境已日益成熟,云公司则围绕定制芯片控制自己的软件服务。大型买家可能接受迁移成本,以获得供应多样性或降低运营费用。

因此,Nvidia 的防御在于持续有用,而不是为了绑定而制造不兼容。公司必须保持库的速度,支持广泛使用的框架,让新硬件快速产生价值,并提供足够的运营价值,使买家即使面对价格和集中风险也愿意选择整合平台。

战略押注让 Nvidia 超越 GPU

只要相邻技术限制系统性能或打开新的计算市场,Nvidia 就会向图形处理器之外扩展。有些押注成为核心业务,另一些则耗费多年却没有带来预期结果。

Tegra 是 Nvidia 早期将处理器放入手机、平板、汽车和嵌入式设备的尝试。手机市场偏好在调制解调器方面占据强势位置的整合型系统级芯片厂商,而 Nvidia 缺乏持久优势。Tegra 在汽车系统、Shield 产品线、嵌入式开发板和 Nintendo Switch 游戏机中找到了更合适的角色。

其中的教训是,处理器性能本身无法克服平台经济性。功耗、无线电整合、应用兼容性、供货协议和客户路线图的影响可能大于图形能力。Nvidia 收窄了移动端雄心,把技术应用于并行计算和图形更重要的市场。

公司还围绕互连技术自主开发或进行收购。NVLink 于 2014 年公布,并随 Pascal 系统推出,为 GPU 之间提供更快的直接通信,并在部分设计中支持更紧密的 CPU-GPU 连接。NVSwitch 让更多加速器能够通过服务器或机架内的高带宽交换网络通信。

Nvidia 对 Mellanox 的 69 亿美元收购于 2019 年宣布、2020 年完成,进一步将这种控制扩展到数据中心网络。Mellanox 带来了 InfiniBand、高速以太网、网卡、交换机,以及远程直接内存访问方面的深厚经验。随着 AI 集群从少量加速器扩展到数千个,这些资产变得越来越有价值。

分布式训练可能因处理器等待梯度、参数或激活值而停滞。低延迟网络和高效集合操作能提高 GPU 真正进行计算的时间占比。因此,Mellanox 改善的是集群中每个加速器的经济性,而非外围功能。

BlueField 数据处理器将网络、存储、安全和基础设施任务从主机 CPU 卸下。Spectrum-X 将以太网产品与软件应用于 AI 集群流量,Quantum 系统则延续 InfiniBand 产品线。Nvidia 现在能够设计计算网络,从机架内部的加速器连接,一直到跨越多个机架的网络连接。

拟议中的 Arm 收购走的是另一条路径。Nvidia 于 2020 年宣布 400 亿美元提案,计划将加速计算业务与 Arm 被广泛授权的 CPU 指令集和知识产权结合。客户和监管机构担心,由芯片供应商拥有 Arm 会损害其作为中立授权方的地位。在监管反对后,Nvidia 于 2022 年终止交易。

失败的交易没有结束 Nvidia 的 CPU 计划。Grace 是 Nvidia 设计的、基于 Arm 的数据中心 CPU,已进入与 Hopper 和 Blackwell GPU 配对的系统。通过自建 CPU,公司可以为加速器密集型负载调校内存、一致性、能耗和芯片间通信,同时不必拥有整个 Arm 生态。

Nvidia 还收购了软件、存储、集群管理和 AI 开发领域的公司。最具战略意义的交易有同一个目标:减少昂贵计算资源周围的摩擦或闲置时间。这一标准让有连贯性的平台招商与单纯多元化区分开来。

Blackwell 和 Rubin 让机架成为产品

从规划模式开始
先拟定产品计划,再据此生成网页应用或后端应用。

Blackwell 和 Rubin 标志着 Nvidia 从销售服务器内的加速器,转向把整个数据中心机架作为一个计算单元来设计。之所以转变,是因为模型规模和推理工作负载已超过单颗芯片的内存、通信和供电限制。

Nvidia 于 2024 年发布 Blackwell 平台。一颗 Blackwell GPU 通过高带宽芯片间连接组合两块大型裸片,使其作为一个逻辑设备运行。GB200 Grace Blackwell Superchip 则通过 NVLink-C2C,将两颗 Blackwell GPU 与一颗 Grace CPU 配对。

GB200 NVL72 将设计扩展为液冷机架,其中含有 72 颗 Blackwell GPU 和 36 颗 Grace CPU,并通过第五代 NVLink 连接。BlueField 数据处理器与外部 InfiniBand 或 Spectrum-X Ethernet 网络,将机架连接到存储和其他系统。产品边界如今除了处理器,还包括冷却、线缆、交换、固件和编排。

包括 GB300 系统的 Blackwell Ultra 提升了内存容量,瞄准保留长上下文或移动大量模型状态的推理和推理型工作负载。Nvidia 的 2026 财年业绩显示了商业影响:增长来自 Blackwell 计算,也来自按规模运行它所需的 NVLink、以太网和 InfiniBand 产品。

Rubin 平台于 2026 年进入量产,合作伙伴系统计划在下半年部署。平台结合 Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 网卡、BlueField-4 数据处理器和 Spectrum-6 Ethernet 交换机。Nvidia 将这些部件一同设计,用于大型混合专家模型、长上下文推理,以及反复执行推理和工具使用步骤的 AI 智能体。

这种年度平台节奏改变了买家的问题。云服务运营商不再只比较孤立 GPU 的峰值吞吐量,而必须比较每单位功耗的 token 数、应用延迟、有效内存容量、网络利用率、软件准备情况、冷却要求、安装时间,以及一个机架能创造多少收入。

机架级整合带来优势,也带来义务。Nvidia 能调优完整通信路径,并在每次安装中销售更多内容。客户获得经过验证的设计,可减少整合选择。但公司必须协调更大的供应链、管理系统级故障、支持液冷,并交付足够成熟的软件,让买家快速使用新架构。

这种方法也会改变毛利率。即使每次安装的总利润很高,销售完整系统也比销售独立加速器包含更多低毛利的实物组件。制造缺陷、临时设计变更,或内存和封装产能不足,都可能影响更大规模的物料清单。

电力已成为硬限制。数据中心获得芯片的速度,可能快于获得公用事业容量、变电站、发电机、冷却设备或施工许可的速度。因此,Nvidia 未来的进步取决于每瓦和每机架完成的有效工作,而不只取决于规格书上印出的算术操作数量。

竞争考验平台的每一层

Nvidia 面临来自通用加速器、云服务商自研芯片、替代软件栈,以及寻求议价能力的客户的竞争。不同工作负载面临的威胁不同,因此没有任何一项基准测试能够决定胜负。

AMD 是 Nvidia 在游戏图形和数据中心 GPU 领域最直接的竞争对手。其 Instinct 加速器和 ROCm 软件瞄准训练、推理和高性能计算。MI300 获得了有意义的部署,之后是 MI350 产品及采用 Helios 机架设计的 MI400 系列,后者于 2026 年推出。AMD 通过内存容量、开放标准、处理器整合,以及客户希望拥有第二供应商的需求来竞争。

Intel 保有庞大的服务器 CPU 基础,并持续推进独立 GPU 和 Gaudi 加速器。其加速器战略多次变化,说明要同时保持芯片节奏、软件采用和系统供应有多难。可信的替代方案需要框架支持和集群级运行能力,而不是一颗单独表现亮眼的芯片。

云服务商攻击的是 Nvidia 地位的另一部分。Google 的张量处理单元为内部服务提供算力,也可通过 Google Cloud 获取,Ironwood 面向大规模训练、推理和推断。AWS 提供用于模型开发的 Trainium 和用于服务的 Inferentia,包括 Trainium3 系统。其他大型科技公司也为自身工作负载设计加速器或网络芯片。

当买家能控制模型、编译器、数据中心和利用率时,定制芯片可以胜出。买家可以去除不需要的功能,并围绕可预测的软件进行优化。当客户需要广泛框架兼容性、多种模型类型、快速部署和跨多云访问时,通用 GPU 仍有优势。

专业公司正在探索晶圆级处理器、数据流架构、推理芯片、光互连和其他方法。Cerebras、Groq 及众多创业公司聚焦特定性能或延迟问题。它们面临的挑战是,把技术优势转化为可供货的系统、可靠的软件,以及服务大型客户所需的充足产能。

竞争也来自抽象层。PyTorch、JAX、可移植编译器、容器化服务和推理引擎可以减少应用开发者可见的厂商专属工作。如果团队只需少量改动就能迁移模型,采购部门便拥有更强议价能力,即使底层 kernel 仍针对各类设备高度优化。

买家应使用自己的工作负载比较系统,而不是依赖峰值算术能力。有效评估应包括选定精度下的模型准确性、批量大小、预填充和解码行为、内存限制、互连扩展、功耗、供货情况、支持和工程工作量。若加速器闲置或需要数月迁移,即使价格更低也可能很昂贵。若更简单的设备能达到延迟和吞吐目标,高价平台同样可能不合算。

Nvidia 在客户看重同一套广泛支持的环境,并希望覆盖本地开发、云端训练、大型集群和生产推理时,地位最强。当买家拥有足够规模和软件控制力,能优化更窄的替代方案时,其脆弱性便会增加。

出口管制和供应集中成为运营风险

政府政策与集中制造如今会影响 Nvidia 的产品设计、库存、客户访问和利润率。先进加速器被视为战略技术,因为它们可以支持商业 AI、科学研究、情报分析和军事应用。

美国在 2022 年推出的出口限制影响了面向中国和其他受限目的地销售的 A100 与 H100 产品。规则在 2023 年扩大,覆盖更多产品和性能指标。Nvidia 开发了包括 H20 在内的合规版本,但政策仍在持续变化。

2025 年 4 月,美国要求 H20 出货至中国和部分相关市场时必须获得许可证。Nvidia 在 2026 财年因过剩库存和采购义务计提了 45 亿美元费用。之后有限的许可证允许部分 H20 出货,2026 年的一项政策则允许在特定条件下逐案审查 H200 申请。但 Nvidia 仍表示,在 2026 财年末,公司实际上无法在中国数据中心计算市场竞争。

这一事件展现了半导体行业特有的风险。公司会在最终交付前数月就承诺采购晶圆、内存、封装和系统。承诺之后实施的新规则,可能让为某一地区设计的产品变成难以重新分配的库存。合规重设计也可能缺乏商业吸引力,特别是本地竞争者受到的限制更少,或生产扩大前又出现新规则时。

Nvidia 的市场地位和全栈战略也引发反垄断问题。监管机构可能审查收购、供应做法、捆绑销售、云服务关系,以及软件或硬件访问。被放弃的 Arm 交易表明,对中立基础设施的控制会受到不同于普通产品扩张的审视。

制造集中带来另一种风险。Nvidia 仍采用无晶圆厂模式,高度依赖 TSMC 生产先进晶圆。它还需要高带宽内存、先进封装、基板、网络组件、电力系统,以及能够组装复杂机架的合同制造商。一个组件的充足产能无法弥补另一个组件的短缺。

台湾是尖端半导体制造和系统组装的中心,韩国则是重要的内存供应地。地震、公用事业中断、航运问题、贸易限制或冲突都可能干扰产出。地理多元化需要多年,因为先进设施、经过验证的工艺和供应商网络,不能只靠把订单转给普通工厂来复制。

AI 数据中心还受到本地条件制约。大规模部署需要发电、输电、冷却水或其他散热系统、土地、许可和熟练运营人员。即使加速器供应充足,国家和地区关于能源、数据所在地、隐私和外资的规则也会决定系统安装在哪里。

因此,Nvidia 必须同时管理工程、政策和实体基础设施。规模提升了采购能力和供应商协调能力,但每一代产品所集中承载的价值,也让失误和外部冲击的代价更高。

Jensen Huang 的领导塑造了 Nvidia 的运营模式

发布在线原型
在构建项目的同一处完成部署和托管。

Jensen Huang 的长期任职,使 Nvidia 在图形、移动计算、科学加速和 AI 领域保持了少见的连续性。他从公司创立起一直担任首席执行官,因此技术投入可以在公开市场对其估值不高的时期继续进行。

Huang 兼具产品沟通能力和深入的技术参与。公开演讲会将架构转化为工作负载和系统经济性,内部评审则以直接反馈和广泛信息共享著称。皮夹克成为鲜明标志,但更重要的是他坚持理解硬件、软件、网络和市场如何彼此影响。

相较其规模,Nvidia 的组织较为扁平。信息可以通过简明状态消息和大型评审组传达给高级领导层,而非经过漫长的私下管理会议链条。这有助于快速暴露问题,也让专家能跨越组织边界质疑假设。

这种模式同样带来压力。直接批评、高期望、频繁产品周期,以及尚未完成工作的可见性,对员工要求很高。曾帮助较小工程公司快速行动的做法,随着员工规模、监管义务和客户承诺增长,也需要更强纪律。

Nvidia 的重大决策中反复出现几项文化原则:

  • 当架构或市场假设失败时,重视智识诚实。
  • 产品计划将漫长的半导体周期与快速的软件迭代结合。
  • 将开发者视为必须赢得其采用的主要用户。
  • 只要底层推理依然可靠,技术押注可以持续多年。
  • 系统性能优先于孤立优化某个组件。

CUDA 是耐心投入最清晰的例子,NV1 转向则展示了相反的能力:当证据推翻一条路线时放弃它。只有领导者能区分困难的计划和错误的前提,坚持与灵活才能并存。

创始人控制权可以支持一致性,却也会集中判断风险。Nvidia 的未来取决于继任规划、能够挑战 Huang 的领导者,以及即使他不参与每一项重大决定也能正常运作的流程。规模带来了创业公司式紧迫感无法单独解决的责任,包括合规、安全、安保、劳工管理,以及可靠地向政府和全球企业交付。

公司的文化也已超越图形工程。研究人员、编译器团队、网络专家、系统架构师、云运营商、汽车团队和行业软件团队,必须围绕同一平台协调。Nvidia 面临的组织挑战是,在运行故障可能波及远超 PC 游戏市场范围的基础设施时,仍保持快速的技术讨论。

财务转型跟随产品转型

当数据中心系统成为主要收入来源时,Nvidia 的财务表现也随之改变,它从周期性的图形供应商转变为全球最大的计算基础设施企业之一。这一过程多年缓慢推进,随后在生成式 AI 需求推动下加速。

1999 年 IPO 之后,Nvidia 的收入高度依赖 PC 图形、游戏周期、工作站需求,以及与板卡制造商和 OEM 的关系。游戏业务保持盈利,但库存调整可能十分剧烈。新一代图形产品需要在需求确定前投入大量研发资金。

多次下行暴露了这种周期性。2008 年金融危机减少了技术支出。加密货币挖矿带来异常高的显卡需求,之后又在 2018 年导致库存调整。疫情时期的需求和供应扰动后,游戏业务在 2022 年又经历调整。当工程或市场假设失败时,Nvidia 也曾计提与产品相关的费用。

数据中心销售改变了规模和客户集中度。2024 财年收入达到 609 亿美元,其中数据中心为 475 亿美元。2025 财年收入升至 1305 亿美元,数据中心贡献 1152 亿美元。2026 财年收入达到 2159 亿美元,其中数据中心为 1937 亿美元。

2026 财年数字表明,收入结构已彻底改变。数据中心占全年收入接近 90%,游戏仍是大型业务,却小得多。截至 2026 年 4 月 26 日的季度中,总收入为 816 亿美元,数据中心收入为 752 亿美元,Blackwell 300 系统和网络产品正在快速放量。

盈利能力既反映稀缺、高价值的加速器,也反映供应完整系统的成本。Nvidia 报告 2026 财年 GAAP 毛利率为 71.1%,低于 2025 财年的 75.0%。下降反映了从 Hopper HGX 产品转向完整 Blackwell 数据中心方案,以及 H20 库存费用。高收入并不意味着产品结构或政策风险不再重要。

客户基础还带来另一种张力。云服务商、AI 实验室、服务器制造商和其他大型直接客户的采购额可能很高。他们的资本开支计划可能迅速变化,其中一些客户在购买 Nvidia 系统的同时也开发内部芯片。整体需求可以维持强劲,但单一产品或客户仍可能带来波动。

Nvidia 的股价反映了预期变化。随着投资者将 AI 基础设施需求的规模纳入定价,公司市值在 2023 年超过 1 万亿美元,2024 年又越过更多万亿美元里程碑。继 2021 年 4 比 1 拆股及更早的多次拆股后,10 比 1 拆股于 2024 年 6 月生效。拆股改变的是股数和每股价格,不是公司的商业价值。

稳健的财务分析应将需求与持久经济性区分开来。买家可能继续建设 AI 能力,同时转向成本较低的推理芯片。Nvidia 的收入可以增长,但因系统含有更多第三方内容,毛利率可能下降。快速架构转换可能产生库存费用。即使客户想要更多算力,电力和建设限制也可能延迟部署。

长期看多观点建立在加速计算取代更多通用计算工作、AI 推理成为持续的生产工作负载,以及 Nvidia 保留系统和软件价值中较大份额之上。相反观点则关注客户集中、自研芯片、替代加速器、出口管制、供应限制,以及支出可能跑在有盈利能力的 AI 应用之前。两种观点都应依据现金流和部署经济性评估,而不是用“芯片公司”或“软件平台”这样简单的标签判断。

Nvidia 的过去如何预示下一阶段

Nvidia 的下一阶段,取决于如何让更大的 AI 系统在运营上更具经济性,而不只是让每个处理器更快。训练仍然要求很高,但生产推理、推理型模型和软件智能体可以持续消耗算力。客户最关心的指标正转向延迟、每瓦 token 数、每美元 token 数、正常运行时间,以及每单位已装机功率带来的收入。

Rubin 展示了 Nvidia 的应对计划:年度平台发布、处理器与网络间更紧密的整合、更大的内存系统,以及针对不断变化模型结构调优的软件。更快的节奏可以让客户留在平台上,却也可能缩短昂贵设备的经济寿命,并给供应商和工程团队带来更多压力。

实体 AI 是另一项大型押注。DRIVE、Isaac、Jetson、Omniverse 和仿真工具,把模型训练与能够感知并在物理世界中行动的机器连接起来。机器人和车辆需要低延迟的本地推理,云端系统则可以进行训练、车队分析和仿真。进展与加速器性能同样取决于安全、可靠性、传感器数据和真实部署经济性。

数字孪生把同一思路延伸到工厂、仓库、电力系统和其他工程化环境。在进行物理变更前,仿真可以降低测试布局或机器人行为的成本。它的价值依赖准确模型和持续维护的运营数据,因此软件整合仍和渲染一样具有挑战性。

对应用构建者来说,这段历史解释了为什么 AI 基础设施看似遥远,却依然塑造日常工作。非技术创始人可以在 Koder.ai 中描述网页、服务器或移动应用,而语言模型和一组智能体在聊天界面背后完成工作。这种体验抽象掉了底层的加速器、网络、托管和模型软件。当更多产品使用 AI,却不要求用户管理 GPU kernel 或集群时,Nvidia 的商业机会便会扩大。

构建者可以从公司的历程中得到几项实用经验。选择能为更广泛平台提供资金的紧迫应用。在竞争者将其视为优先事项前,就投入开发者体验。当用户将代码和训练投入产品后,保持兼容性。只有当相邻组件消除了已测量的瓶颈时才向外扩展。当标准或证据证明技术前提错误时,放弃它。

政策制定者面临不同的选择。加速器供应、先进封装、内存、能源、云端访问和软件技能,如今都影响国家计算能力。出口管制可以限制对手,同时也可能带来库存损失,减少供应商接触海外开发者的机会,并推动受限市场发展本土替代方案。竞争政策必须区分提升系统性能的整合,与阻碍客户选择可行替代品的做法。

Nvidia 的历史最终是一系列不断累积的投入。图形业务为并行硬件提供资金。可编程着色器揭示通用计算机会。CUDA 积累软件和开发者。AlexNet 带来定义性的 AI 工作负载。DGX、Mellanox、Grace、Blackwell 和 Rubin 不断扩展产品边界,直到机架成为计算机。

这一过程造就了 Nvidia 的领先地位,却不意味着领先永恒不变。公司必须持续解决下一个运营限制,同时面对竞争者从价格、开放性、供应多样性和专用性能发起的挑战。它此前的成功来自及时意识到计算模式已经改变。其未来取决于能否再次做到这一点,在当前模式变成不愿质疑的假设之前。

常见问题

Nvidia 在 20 世纪 90 年代的最初愿景,与其他芯片公司有何不同?

Nvidia 创立时押注于一个明确判断:3D 图形会从昂贵的工作站走向大众 PC,而这一转变需要专用图形处理器与软件紧密协同。

Nvidia 没有试图成为一家面面俱到的半导体公司,而是:

  • 聚焦让所有人都能使用的加速图形技术,而不只服务专业人士。
  • 同时设计芯片和软件驱动程序/API,而非将两者分开。
  • 针对成本和 OEM 采用进行优化,让大型 PC 厂商能默认搭载 Nvidia。

这种对实时图形这一问题既聚焦又深入的投入,奠定了技术和文化基础,后来延伸为 GPU 计算和 AI 加速。

CUDA 如何帮助 Nvidia 成为 AI 和深度学习的默认硬件?

CUDA 把 Nvidia GPU 从固定功能的图形硬件,变成了通用并行计算平台。

它推动 AI 领先地位的关键方式包括:

  • 简化编程:研究人员可以使用 C/C++ 编写程序,之后也能借助框架使用 Python,不必再借用图形 API 完成计算。
  • 可复用库:cuBLAS、cuFFT、cuDNN 等库为数学和神经网络提供即插即用的加速能力。
  • 生态势能:TensorFlow 和 PyTorch 等框架为 CUDA 优化后,Nvidia 成为默认硬件选择。
  • 不断累积的迁移成本:每一个基于 CUDA 的项目,都会提高迁移到非 CUDA 加速器的成本。

深度学习起飞时,CUDA 周围的工具、文档和使用习惯已经成熟,Nvidia 因此拥有巨大先发优势。

为什么收购 Mellanox 对 Nvidia 的 AI 战略如此重要?

Mellanox 让 Nvidia 掌握了连接 AI 超级计算机中数千块 GPU 的网络互连基础设施

对于大模型,性能不只取决于芯片速度,也取决于数据和梯度交换的速度。Mellanox 带来了:

  • 用于低延迟、高带宽连接的 InfiniBand 和先进以太网
  • RDMA 和高性能互连方面的专业能力。
  • 构建 NVLink/NVSwitch 系统所需的基础组件。

这使 Nvidia 能够销售 GPU、网络和软件协同优化的整合平台,例如 DGX、HGX 和完整数据中心方案,而不只是单独的加速卡。

Nvidia 目前如何赚钱,其收入结构经历了怎样的变化?

Nvidia 的收入结构已从以游戏为主,转向以数据中心为主。

大致包括:

  • 游戏:GeForce GPU、游戏笔记本及相关软件仍是规模可观、利润良好的业务。
  • 数据中心:如今是主要增长引擎,受 AI 训练和推理、云 GPU 实例,以及带网络能力的完整系统(DGX/HGX)推动。
  • 专业可视化:面向设计师和工程师的工作站 GPU。
  • 汽车和边缘端:目前规模较小,但属于战略投入,包括 DRIVE、Jetson、机器人和基于 Omniverse 的方案。

高端 AI 平台和网络产品拥有较高售价和利润率,因此数据中心增长彻底改变了 Nvidia 的整体盈利能力。

AMD、Intel 和定制 AI 芯片会给 Nvidia 带来哪些竞争威胁?

Nvidia 同时面临传统对手和定制加速器的压力:

  • AMD:在游戏 GPU 和 MI 系列 AI 加速器上直接竞争,常主打每 FLOP 的更低成本。
  • Intel:通过 CPU、自家 GPU 和专用 AI 芯片展开竞争。
  • 云服务商和大型科技公司:Google 的 TPU、Amazon 的 Trainium/Inferentia 等自研芯片,旨在降低对 Nvidia 的依赖。
  • 创业公司和区域厂商:专用 AI 加速器与中国供应商,瞄准成本、能效或监管环境下的细分需求。

Nvidia 的主要防线是性能领先、CUDA/软件带来的黏性,以及整合系统。但若替代方案已经足够好且更容易开发,其市场份额和定价能力都可能承压。

出口管制、监管和地缘政治如何影响 Nvidia 的业务?

先进 GPU 如今被视为战略技术,尤其是在 AI 领域。

对 Nvidia 的影响包括:

  • 出口管制:美国法规限制向中国及其他部分地区出售顶级 AI GPU。Nvidia 必须设计规格较低的版本,也可能失去一部分高利润需求。
  • 反垄断审查:监管机构密切关注交易,例如被阻止的 Arm 收购案,以及可能巩固 Nvidia 主导地位的商业做法。
  • 供应链风险:高度依赖 TSMC 及台湾的先进封装,使 Nvidia 面临地缘政治和产能风险。

因此,Nvidia 的战略必须同时考虑工程、市场、政策、贸易规则和地区产业规划。

用简单的话说,Nvidia 的 AI 软件栈是什么样的?

简单说,Nvidia 的 AI 技术栈是一组分层工具,能让大多数开发者不必直接面对 GPU 的复杂性:

  • CUDA:把 GPU 作为并行处理器使用的核心编程模型。
  • 数学和 HPC 库:cuBLAS、cuSPARSE、cuFFT 等,用于快速线性代数和数值计算。
  • AI 专用库:用于神经网络基础操作的 cuDNN、用于优化推理的 TensorRT、用于模型服务的 Triton。
  • 数据和分析:RAPIDS,用于 GPU 加速的数据科学和分析。
  • 垂直行业 SDK:面向汽车(Drive)、医疗(Clara)、机器人(Isaac)、仿真和数字孪生(Omniverse)的领域工具包。

多数团队通过 PyTorch 或 TensorFlow 等框架调用这些库,很少需要直接编写底层 GPU 程序。

Nvidia 对自动驾驶和机器人的投入如何融入整体战略?

自动驾驶和机器人业务,是 Nvidia 将核心 AI 与仿真平台延伸到物理系统中的做法。

从战略上看,它们:

  • 复用为数据中心开发的同一套 CUDA 和 AI 库
  • 带动对边缘端和嵌入式 GPU的需求,例如 Jetson 和车载 Drive 平台。
  • 通过硬件、软件和工具的组合,绑定长期项目客户,例如车企和工业公司。
  • 产生大量仿真工作负载,例如通过 Omniverse/Isaac,进一步支撑大规模 GPU 部署。

这些市场目前可能小于云端 AI,却可能带来稳定、高利润的收入,并让 Nvidia 的生态深入更多行业。

创始人和工程师能从 Nvidia 从图形创业公司演变为 AI 平台的过程中学到什么?

Nvidia 的发展历程带来几条启示:

  • 掌握全栈能力:把芯片、系统设计和软件结合起来,例如 CUDA 和 SDK,能形成持久壁垒。
  • 尽早押注新的计算瓶颈:可编程着色器、CUDA 和深度学习支持,都是在市场前景尚不明朗时投入的。
  • 把开发者当作核心客户:文档、库、会议和直接支持会持续累积采用率。
  • 顺应生态和标准:NV1 的失误让 Nvidia 明白,应跟随 DirectX 等主流 API,而不是与之对抗。

对构建者而言,关键在于把深厚的技术洞察与生态思维结合起来,而不只关注原始性能。

如果 AI 硬件架构超越传统 GPU,Nvidia 的地位可能如何变化?

如果未来的工作负载不再适合 GPU,Nvidia 必须迅速调整硬件和软件。

可能的变化包括:

  • 更广泛采用专用 AI ASIC,以较低灵活性换取特定任务上的高效率。
  • 出现新的计算范式,例如神经形态计算、模拟计算或完全不同的内存层级,它们未必适合当前 GPU 设计。
  • 标准化的开放软件栈,例如类似 ROCm 的生态或更完善的 CPU/ASIC 工具,削弱 CUDA 的黏性。

Nvidia 可能会:

  • 让架构适应新的工作负载。
  • 扩展软件栈,以支持或封装新的硬件类型。
  • 借助系统层面的专长,例如网络、平台和垂直 SDK,即使传统意义上的“GPU”不再居于核心,也保持影响力。

它的历史表明其具备转向能力,但这样的变化会检验公司究竟有多灵活。

Related posts