GPU 云算力租赁怎么选：按需、Spot 与包月

租 GPU 这事儿，最近挺让人纠结。一边是模型越做越大、本地显卡根本不够看；另一边是租金跟着往上走——Nebius 从 10 月起把按需 H100 提到了每小时 4.5 美元，新一代的 B300 也涨了约两成。对小团队和个人开发者来说，"怎么租才不烧钱"突然成了个正经问题。

我自己的体会是：GPU 云的成本大头从来不是"租了多贵"，而是"用没用对计费方式"。同一张卡，按需开一天的钱，可能够包月用一周。这篇就把按需、Spot、包月这三档彻底掰开，告诉你各自适合什么负载。

AI 操作示意图·以官网实际界面为准

1. 先搞懂三档计费到底差在哪

GPU 云常见的就三种计费方式，名字各家略有出入，但逻辑是通的：

• 按需（On-demand）：开多久算多久，随开随停，不用了就关。最灵活，单价也最贵。
• Spot / 抢占式：用厂商闲置的 GPU，价格便宜一大截，但它随时可能因为有更高优先级的需求被回收。
• 包月 / 预留（Reserved）：锁定一段时间（通常一个月起），单价最低，相当于批发价。

一句话概括：灵活的最贵，便宜的会被抢，锁死的最省。 没有哪一档是绝对最优的，关键是你的负载能不能接受被打断、以及它是一直跑还是断断续续跑。

2. 一张表看清谁适合谁

这里最容易被忽略的是 Spot 的"可中断"属性。它便宜是有代价的——如果你跑的是"跑到一半不能停"的任务，被回收一次就前功尽弃，省的那点钱全赔进去了。用 Spot 的前提，是你的任务能随时存进度、随时重跑。

AI 操作示意图·以官网实际界面为准

3. 我的选法：按负载拆，不按心情租

实际用下来，我更倾向"组合着租"，而不是死磕某一档：

1. 开发调试阶段用按需：一天也就开几个小时，错了就关，别心疼那点单价。这个阶段图的是快，不是省。
2. 真正跑大批量训练，用 Spot 加 checkpoint：任务拆成可续跑的小步，每步存一次进度，被回收了就换一台接着跑。成本能压到按需的几折。
3. 已经上线的推理服务，直接包月：7×24 在线的东西，用按需等于一直按最贵费率付费，包月立刻回本。

反过来，最蠢的用法是：开发阶段就包月（机器空转白白付钱），或者线上推理用 Spot（半夜被回收，服务直接挂）。

4. 选 GPU 云还要盯的几件事

价格之外，有几个坑比单价更影响体验：

• 显存和互联：多卡训练要看 GPU 之间的互联（如 InfiniBand），单卡玩无所谓，多卡拼集群时互联差会让算力白白浪费。
• 可抢占通知时间：Spot 被回收前有没有几分钟缓冲？缓冲够不够你存 checkpoint？这条直接决定 Spot 能不能用。
• 数据传输费：GPU 云的入出站流量经常另算，把大模型镜像和数据集传进去的钱，有时比租卡还贵。
• 区域与库存：热门型号经常"有价格没库存"，下单前先确认目标 GPU 在你的可用区真的开得了机。

常见问题

问：H100 按需涨到 4.5 美元一小时，还值得租吗？ 答：看你用它干什么。跑线上推理或长时间训练，包月通常划算得多；只是临时试一下模型，按需贵点也认了。别拿按需价去规划长期成本。

问：Spot 被回收了怎么办？ 答：提前在任务里做好断点续跑（checkpoint）。能存进度，被回收就只是切换机器；不能存进度，就别用 Spot。

问：包月一定比按需省吗？ 答：前提是机器真的被用满。如果你一个月只开几天，包月就是空转烧钱。先估算实际占用时长，再决定锁不锁。

小结

GPU 租金在涨，但真正拉开成本差距的是计费方式，不是型号贵贱。调试用按需、批处理用 Spot 加 checkpoint、长期服务用包月——按这个思路拆负载，能在不牺牲灵活性的前提下把账单压下来。下单前记得确认库存、互联和流量费，这些隐性成本往往比卡时单价更狠。

官方资料

资料核对日期：2026-10-23

• Nebius AI Cloud 官网（GPU 云产品、H100 与 Blackwell 基础设施介绍入口）：https://nebius.com/
• Nebius GPU 按需 / Spot / 预留定价页面（具体价格与可抢占策略，以控制台实时显示为准）：Nebius 官网定价页