开源权重推理经济学：英伟达旧款GPU的长期价值

Ornn Data 在 2026 年 9 月发布的一份研究报告中指出，开源权重模型的推理需求正在延长英伟达旧款 GPU 的经济使用寿命。传统的 GPU 折旧方式假设每一代新硬件都会让旧款过时，但研究发现并非如此。报告对比了 11 个开源权重模型和 8 个闭源模型，发现在相似智能水平下，最便宜的开源模型完成任务约需闭源模型的五分之一成本。

在租用硬件的自托管场景下，推理成本可降至每百万输出 token 0.12 至 0.35 美元。一个有趣的发现是，在 gpt-oss-120b 这个拥有 51 亿激活参数的稀疏模型上，英伟达 A100 在现货及三年、五年租约的价格下都比 H100 更便宜。租赁市场数据反映了这一点：A100 的五年租约价格维持在了一个月租约价格的 80%，而基于 Hopper 和 Blackwell 架构的 GPU 仅为 44% 至 60%。

报告认为，当前的推理任务，如长期运行的代理、批量评估和强化学习，对延迟容忍度较高且不依赖特定硬件，这促使成本敏感的需求流向更便宜的设备。因此，只要旧款 GPU 能胜任工作负载，它们就还能继续赚钱多年。虽然一些闭源模型在部分基准上仍具价格优势，但整体趋势表明，开源模型和灵活部署正在改变硬件更新的节奏。