NVIDIA B300 vs B200 vs H100：租赁价格、显存与 AI 任务选择

先说结论：如果最在意小时预算和可选平台，先从 H100 测起；如果单卡 80GB 导致模型切分很麻烦，B200 更值得认真比较——按这次快照，它的显存是 H100 的 2.25 倍，而最低小时价约为 1.91 倍。B300 不能因为“更新”就自动胜出。单卡 288GB 在显存密度真正改变集群结构时很有价值，但当前站内最低价为 $7.40/小时，而且可比价数据里只有一个供应渠道。

7 月 26 日的真实报价表

写这篇文章前，我们重新读取了 ComputeUnion 当前可比较的按需报价。最低观测价分别是：H100 $1.4678/小时、B200 $2.80/小时、B300 $7.40/小时。H100 有 19 个跟踪渠道，B200 有 7 个，B300 只有 1 个。渠道数很重要：单一渠道的报价可以说明市场已经出现供给，但还不能说明市场足够成熟。

GPU	官方显存	站内最低观测价	跟踪渠道	每 GB 显存小时价
H100 SXM 80GB	80GB HBM3	$1.4678/小时	19	$0.0183
B200 SXM 180GB	180GB HBM3e	$2.80/小时	7	$0.0156
B300 SXM 288GB	288GB HBM3e	$7.40/小时	1	$0.0257

“每 GB 显存小时价”只用来观察容量成本，不是性能分数。内核支持、精度、batch、互联和真实利用率不同，同一个任务的最终成本可能完全不同。

跑一天和跑一个月，账单是多少

小时价乘上时间，代价会更直观。下表按一张 GPU 连续运行 24 小时或 720 小时计算，不含存储、CPU、网络、流量、税费、包月折扣，也不包含平台可能要求的整机或多卡起租。

GPU	连续 24 小时	30 天（720 小时）	相比 H100 每月多付
H100 SXM 80GB	$35.23	$1,056.82	基准
B200 SXM 180GB	$67.20	$2,016.00	+$959.18
B300 SXM 288GB	$177.60	$5,328.00	+$4,271.18

如果 180GB 能让模型不再跨两张或更多 80GB 卡切分，B200 的溢价比较容易解释。B300 则需要更硬的理由：288GB 必须明显减少卡数、通信、工程调试或失败任务，才能追回相对当前 H100 低价每月多出的 4000 多美元。

看起来相似，其实是三件不同的事

1. 权重能装下，不等于生产任务能跑稳

模型权重放进显存，只说明满足了最低门槛。生产推理还要留 KV Cache、运行缓冲、batch 和推理框架空间；训练与微调还要容纳优化器状态、梯度、激活、检查点和通信缓冲。如果纸面计算已经接近 80GB，真实生产通常只会更紧。

2. 卡数变少，不一定代表账单变低

从 H100 换到 B200 或 B300，可能减少显存型任务需要的卡数；但部分租赁平台按整机或完整节点出售 Blackwell，或者设置最低起租卡数。比较 GPU 名称之前，要先看平台真正按什么计费。四卡起租很容易抵消“少用几张卡”的节省。

3. 最低价记录，不一定是最稳的生产选择

这次 H100 最低价来自低库存报价，其他 H100 渠道价格更高。正式业务还要比较库存、区域、NVLink/网络、存储、支持、抢占规则和故障后的替换能力。ComputeUnion 在 GPU 详情页保留全部当前渠道，而不是只把最低价当成唯一答案。

你的任务应该先测哪一张卡

任务约束	建议先测	什么情况下升级
模型与运行时可以稳定放进 80GB	H100	只有 Blackwell 在你的实测中明显降低“每个成功任务成本”时再升级。
80GB 导致张量并行或反复 OOM 调参	B200	180GB 可能减少切分和通信，而且市场覆盖暂时比 B300 更广。
超大推理、长上下文缓存或训练状态需要最高显存密度	B300	288GB 可能简化拓扑，但要先核实整机门槛和真实库存。
早期试验，利用率还不确定	H100 或当前最低的兼容 GPU	工作负载还在变化、机器经常空闲时，不要先为代际升级付费。

一个能避免拍脑袋采购的测试方法

1. 在三种候选卡上使用同一模型版本、精度、框架、batch 和序列长度。
2. 记录每小时通过的任务数、峰值显存、tokens/样本速度、重试次数和工程调试时间。
3. 按平台真实计费单位计算：单卡、整机、预留时段还是 Spot 实例。
4. 计算“每个成功任务成本”。小时价看不到失败任务和闲置显存。
5. 按生产并发重新测试，不要只测单请求演示。

结论

按 ComputeUnion 当前快照，H100 是供应与价格基准，B200 的显存/价格关系最值得比较，B300 则是面向显存密度硬约束的专用选择，不应该成为默认升级。库存与渠道覆盖会变化，所以本文负责提供判断方法，三张 GPU 的详情页负责提供最新报价。

数据来源与方法

显存和系统规格来自 NVIDIA HGX AI Factory 参考架构、NVIDIA MIG 支持列表和 NVIDIA H100 产品页。租赁价格与渠道数量来自 ComputeUnion 在 2026-07-26 核对的按需市场快照，不是固定报价，也不是 NVIDIA 官方定价。价格观测方式见 ComputeUnion 方法说明。