一块国产GPU，只有在模型跑通、业务完成迁移之后，才能真正开始兑现其价值，背后是一笔容易被硬件参数掩盖、却深刻影响厂商盈利能力的 “软件账”。 文丨胡昊 国产 GPU追赶英伟达，面临两场节奏不同的竞争。 一场在硬件上，从设计、流片到量产，一代芯片往往需要较长周期，如要进一步提高计算能力和显存带宽，通常得等待新产品落地；另一场在软件上，即便芯片不变，持续优化程序和工具，也可能提高它的实际运行效率。 2024年6月英伟达披露，同样使用512张 H100 GPU，GPT-3 175B 相关训练基准的性能比一年前提高了27%，其间 GPU 的型号和数量没有改变，性能提升主要来自计算程序优化，计算与卡间通信更充分地并行，以及芯片内部功率分配的调整。 国产 GPU 也有类似案例。 2025年12月沐曦公布与上海 AI 实验室 DeepLink 团队的合作成果，在 MinerU 文档解析应用中，使用同样的 C500 GPU，Graph 模式相较 Eager 模式的性能提升约60%，两种模式组织和执行计算的方式不同，硬件型号却没有变化。 这两组特定测试虽然不能代表所有模型的性能表现，但也共同说明，决定 GPU 实际使用价值的，不只是芯片出厂时的硬件性能，还有量产之后持续完善的软件能力。 因此，国产 GPU 面对的是一个不断移动的追赶目标， 一方面，他们需要开发下一代芯片，缩小与英伟达在硬件性能上的差距； 另一方面，他们又要持续用软件优化现有产品，使存量芯片能够支持不断变化的模型和应用。 当然，英伟达也在同时推进这两件事。对沐曦、摩尔线程、寒武纪、燧原等国产 AI 芯片厂商来说，软件由此不仅是技术问题，更是一笔决定投入如何回收的商业账。 成熟的编译器、数学库和开发工具，可以服务不同客户，甚至跨越多代芯片复用。但在软件体系尚未成熟时，每进入一家新客户，厂商都可能要重新组织工程师，解决适配、调优和部署问题。 前者能够沉淀为通用的软件资产，后者则更接近依赖持续人力投入的非标准化工程服务。 因此，软件投入能否产生商业回报，关键不只是投入多少，更是一次开发形成的软件能力能否随着订单增加被反复使用。 要看清这笔账，得先理解英伟达 CUDA 生态为何难以撼动。 客户为什么很难抛弃英伟达 GPU？ 对于使用 GPU 训练模型的企业，购买芯片只是开始。 开发人员还要让模型真正运行起来，通过编译、算子优化和多卡通信等环节，把芯片的计算能力转化为相应的生产效率，换用另一种 GPU，原有程序可能需要修改，模型精度、运行效率和系统稳定性也要重新验证。这既需要工程师的资源投入，也可能延缓最后模型业务的上线。 因此，即便另一款 GPU 的采购价格更低，只要迁移过程足够复杂，企业节省的硬件成本就可能被新增的软件和工程成本所抵消。 英伟达的优势因此不止于硬件性能，客户围绕 CUDA 积累的大量软件资产及使用经验，构成了另一道更难跨越的竞争壁垒。 过去多年，英伟达围绕 CUDA 建设开发体系，让客户在不同代际 GPU 之间延续已有的软件投入，其中的一项重要设计，是位于上层程序与具体硬件之间的虚拟指令集 PTX。 开发者编写的程序需要经过编译，才能变为 GPU 能够执行的机器指令，PTX 提供了相对稳定的中间指令层，程序不必直接适应每一代 GPU 的全部变化，部分硬件差异可由后续编译工具处理。 英伟达 Blackwell 兼容性指南进一步说明，应用包含合适的 PTX 代码时，可以借助运行时编译支持更新的 GPU。不过，这仍取决于驱动和指令特性等条件，旧程序也不会自动获得新硬件的最佳性能。 其商业价值在于，客户过去的软件开发投入，有机会随着新一代 GPU 上市继续发挥作用。 数学库则让这种延续性进一步增强。 以训练模型中大量使用的矩阵乘法为例，开发者可以调用 cuBLAS 等数学库，不必每次从头实现。英伟达再针对不同硬件持续优化数据搬运和计算调度，提高实际运行效率。 CUDA 12.8系列就增加了面向 Blackwell 架构的新低精度计算支持，客户购买新一代 GPU 时，既可以延用原有的部分程序和经验，也能利用持续更新的底层计算能力。 软件与硬件由此形成相互强化的关系，已有软件降低新卡的导入成本，新硬件与新工具又提高了留在这一生态中的收益。 这种优势并非增加几个兼容接口就能打破，模型在具体硬件上的性能，还需要大量针对性优化。 DeepSeek 团队的技术报告披露，训练过程中，英伟达 H800的132个流式多处理器（SM）中，最多有20个用于通信相关操作，占用了部分原本可用于计算的资源。团队因此建议未来增加专门的通信处理能力，以释放计算资源、降低软件复杂度。 即使在英伟达自身的生态中，开发者也仍需根据硬件特点进行优化。 软件优化能提高硬件利用效率，硬件架构又决定软件需要解决哪些问题。
觉得内容有价值？
分享给更多关注行业变化的朋友。
