GPU 云主机怎么租：按小时推理、包月独显与 GPU 独服三条路，2026 年公开报价对照

给站点加 AI 功能的人，最后多半会走到同一个问题前面：模型跑在哪里。调用 API 最省事，但长期调用量一大，账单会变成固定支出；自建就要租 GPU，而 GPU 主机是云服务里价格跨度最大的一类，同一张卡在不同形态下的月成本能差十倍。更麻烦的是计价单位混乱：有的按小时，有的按月，有的按秒，有的整卡，有的分片，把几个报价放在一起比价，很容易比出错误结论。 这篇文章不做”哪家最强”的排名，而是把三条供给路线摊开：按小时的云 GPU 实例、包月独显服务器、以及 GPU 独立服务器。每条路线给出可核对的公开价格、适合的场景和隐藏成本，最后给一个可以自己套用的选型流程。文中价格抓取于 2026 年 10 月，云厂商的 GPU 报价和库存波动很大，下单前请以控制台实时价格为准。

三条供给路线，先分清再比价

按小时的云 GPU 是主流选择，代表是 DigitalOcean 和 Vultr。它的特点是整卡分配、按小时计费、几分钟内交付，适合间歇性任务：跑一次微调、压测一批图片、临时起一个推理服务。缺点是单价高，长期 7×24 跑下来月账单会很吓人，而且库存不稳定，热门卡型经常开不出来。

包月独显服务器是第二种，代表是 HOSTKEY 这类欧洲商家。它把 GPU 和整台服务器一起按月租给你，单价折算下来通常只有云厂商的三到五成，代价是需要按月承诺、机器完全自理（装驱动、配环境、做监控都得自己来），而且机房位置固定。适合长期常驻的推理服务、渲染农场、或者需要自己掌控整机的中小团队。

第三种是 GPU 独立服务器，可以理解为”整台物理机加多张卡”，从单卡到八卡都有。它的门槛最高、单价也最高，但能拿到 NVLink 互连和完整的 PCIe 通道，适合多卡训练和需要大显存池的场景。对绝大多数个人项目来说，这条路线属于”知道有就行”，真正需要的时候通常已经有明确的算力预算了。

公开报价对照：从 0.76 美元/小时到 2190 欧元/月

先看云厂商这一侧。DigitalOcean 的 GPU Droplets 价格页给出的数据相当完整：RTX 4000 Ada（20GB 显存）每小时 0.76 美元、月付 565.44 美元；RTX 6000 Ada（48GB）每小时 1.57 美元、月付 1168.08 美元；H100 80GB 每小时 4.41 美元、月付 3281.04 美元，配 20 个 vCPU、240GB 内存和 15TB 流量；H200 141GB 略贵一点，每小时 4.47 美元；B300 288GB 则是每小时 11.19 美元。AMD 侧的 MI300X 192GB 每小时 2.59 美元，MI325X 256GB 每小时 3.80 美元，MI350X 288GB 每小时 6.16 美元。八卡版本的月费都在两万美元以上，属于另一个预算层级。

再看包月这一侧。HOSTKEY 的独显服务器按月标价，单卡从 199 欧元起：RTX 3080 10GB 配 8 vCPU、64GB 内存、512GB NVMe 是 199 欧元/月；A5000 24GB 是 279 欧元；RTX 3090 24GB 是 319 欧元；RTX 4090 24GB 是 379 欧元；双 4090 是 750 欧元；四 4090 是 1290 欧元；6000 PRO 96GB 单卡则要 2190 欧元/月。官方说明里提到部分配置支持按小时计费、现货 15 分钟交付，还预装了常见的 AI 框架和模型。

选卡先算显存，别先看算力

新手选 GPU 最常犯的错是盯着 TFLOPS 看，结果买回来发现模型根本装不进显存。推理场景里，显存是硬门槛，算力只决定快慢；装不进去就是跑不起来，快慢是次要问题。粗略的估算方法是：模型参数量乘以每参数字节数，得到权重占用的显存。FP16 每参数 2 字节，INT8 和 FP8 各 1 字节，FP32 是 4 字节，4bit 量化约 0.5 字节。 拿最常见的 7B 模型举例：FP16 权重约 14GB，加上 KV 缓存和运行时开销，实际要留 18GB 到 20GB，所以 24GB 卡刚好够用、16GB 卡会紧张；同一模型换成 4bit 量化，权重降到 4GB 左右，8GB 卡就能跑，代价是精度损失和部分任务效果下降。13B 模型 FP16 约 26GB，24GB 卡就装不下了，要么量化要么上 48GB。这个估算不精确，但足以帮你在下单前排除掉明显不够的卡型。

还有两个和显存同样重要的参数。一是显存带宽，它决定 tokens/s 的上限，同代卡里带宽差一倍、生成速度也会差出接近一倍。二是卡间互连，单卡推理不用考虑，多卡训练必须确认有没有 NVLink 或者高速互联，靠 PCIe 硬凑的多卡效率会低很多。这两项在云厂商的规格页里都有，但很少被中文教程提到。

按小时和包月的盈亏平衡点

同一个量级的卡，按小时和按月的成本差得很远，但平衡点算起来很简单：把月费除以小时单价，得到”一个月跑多少小时才回本”。以 H100 80GB 为例，DigitalOcean 的月付价 3281.04 美元，除以每小时 4.41 美元，约等于 744 小时，也就是整月不停机才刚好和按月价持平。反过来说，只要你的使用时间低于整月的七成，按小时就更划算。 包月独显的算法不一样，因为它的单价本身就低。RTX 4090 24GB 在 HOSTKEY 是 379 欧元/月，折算下来约 0.51 欧元/小时（按 744 小时算），而同级别卡在云厂商按小时通常要 0.7 到 1 美元。也就是说，只要你打算连续跑超过两三百小时，包月就开始占优。这也解释了为什么做常驻推理服务的人最后都会从云实例迁到包月独服：不是性能问题，是计费模型决定的。

还有一个容易被忽略的时间成本：按小时实例每次重建都要重新装驱动、拉镜像、配环境，如果你的任务经常中断重来，这部分时间会慢慢吃掉省下的钱。包月机器虽然要自己维护，但环境装一次可以一直用。判断标准可以简化为：任务是一次性的还是持续的，一次性的按小时，持续的按月。

隐藏成本：出口流量、存储和快照

GPU 主机的报价通常只包含算力，网络和存储另算。云厂商的套餐一般带一个流量配额，超出部分按 GB 收费，做图片生成、视频转码这类产出大的任务时，出站流量会变成账单上不可忽视的一项。存储同理，模型文件动辄几十 GB，系统盘不够就要加块存储，按月累计下来是笔固定支出。 快照和备份在 GPU 场景里更容易被低估，因为模型权重和环境镜像都很大。Vultr 的快照按每 GB 每月 0.05 美元计费，自动备份则是在基础费用上涨 20%；这两个数字单看都不高，但一台带几 TB 存储的机器长期开着备份，一年多出来的钱够再租一台入门机。建议的做法是只对重建成本高的部分做快照，模型文件用对象存储单独放，别指望快照替你管数据。

三个常见误判

第一个是把消费级卡当专业卡用。RTX 4090 的单卡性价比确实高，但它没有 NVLink、显存只有 24GB、长时间满载的稳定性也不如数据中心卡。单卡推理没问题，多卡训练和长时间高负载就要谨慎。第二个是忽略库存，热门卡型在云厂商那里经常处于缺货状态，下单时看到的”可部署”不代表明天还有，临时任务要提前一天确认库存。 第三个是低估环境配置的成本，我们之前做过 HOSTKEY 独立服务器的深度评测，里面把这部分交付差异写得更细。云厂商的 GPU 实例有的预装驱动和 CUDA，有的只给你一张裸卡；驱动版本、CUDA 版本、PyTorch 版本三者不匹配是最常见的启动失败原因。选包月独服时，官方文档里写”预装 AI 框架”和”提供裸机”是两种完全不同的交付，下单前问清楚，能省掉一整天。

自建 GPU 和调用 API，什么时候不该租

租 GPU 不是默认选项。如果你的调用量不大、对延迟不敏感、也不需要微调，直接调 API 往往更便宜：没有环境维护、没有闲置成本、按 token 付费。真正适合自建 GPU 的场景有三类：一是数据不能出内网，必须在自己的环境里跑；二是需要持续大批量推理，单位成本已经明显低于 API；三是需要微调或者跑开源模型，API 给不了你要的控制权。 反过来，有三类需求不建议自建：偶发的图片生成、低频的文本处理、以及还在验证阶段的产品。这三类需求的共同点是利用率低，而 GPU 的计费逻辑对低利用率极不友好。先按 API 跑通业务，等调用量稳定下来再算自建的账，这个顺序能避免大量无效投入。

放到 WordPress 场景里，GPU 能干什么

多数 WordPress 站点并不需要 GPU，但有一类需求确实会用到：批量生成文章配图、给存量图片做超分和去背景、跑本地的向量检索做站内语义搜索、或者自建一个不依赖外部 API 的文案助手。这些任务的共同特征是批处理、可排队、对实时性要求低，正好适合按小时开机、跑完就销毁的模式。 实际配置上，图片类任务用 24GB 卡足够，跑一个 SDXL 或者 Flux 的量化版本，一小时能处理几百张；向量检索更省，7B 级别的嵌入模型在 16GB 卡上就能跑，瓶颈在 CPU 和磁盘 IO 而不是 GPU。这类任务的最佳实践是：把待处理队列放在对象存储里，开机拉取、处理完写回、然后销毁实例，整个过程按小时计费，成本可控且不用长期维护。我们之前评测过几家提供这类算力的商家，Kamatera 的按配置组合模式 和 MassiveGRID 的云主机 都可以作为备选参考。

常见问题

GPU 云主机和 GPU 独立服务器有什么区别？

云主机是虚拟化后的实例，按小时计费、几分钟交付、随开随停；独立服务器是整台物理机，按月或按合约租用，能拿到完整 PCIe 通道和 NVLink。单卡推理用云主机就够，多卡训练才需要考虑独立服务器。

24GB 显存能跑多大的模型？

FP16 精度下大约能跑 7B 到 10B 的模型，但要留出 KV 缓存和运行时开销；换成 4bit 量化，24GB 可以跑到 30B 级别，代价是精度下降。13B 模型 FP16 约需 26GB 权重，24GB 卡装不下。

按小时计费真的比包月便宜吗？

取决于利用率。以 H100 80GB 为例，按小时 4.41 美元、月付 3281 美元，两者在 744 小时处持平，也就是整月不停机才一样。使用时间低于整月的七成，按小时更划算；常驻服务则包月明显便宜。

租 GPU 需要自己装驱动吗？

看商家。部分云厂商提供预装 CUDA 和框架的镜像，也有商家只交付裸卡。包月独服里”预装 AI 框架”和”裸机交付”是两种不同产品，下单前确认清楚，能避免驱动版本、CUDA 版本和框架版本不匹配导致的启动失败。

为什么 GPU 实例经常开不出来？

因为热门卡型的库存有限，云厂商按区域分配。下单时看到可部署不代表长期有货，临时任务建议提前一天确认库存，或者准备一个同级别卡型的备选方案。

DigitalOcean 的 GPU 实例能退款吗？

官方价格页的常见问题里写明不提供退款，特殊情况需要联系客服。这一点和部分按月的独服商家不同，后者通常会把未使用的时间退到账户余额，购买前值得先看清条款。

总结

GPU 主机的选型可以归纳成三步：先算显存够不够，再算利用率决定按小时还是按月，最后核对隐藏成本。公开报价上，DigitalOcean 的入门卡是每小时 0.76 美元、H100 每小时 4.41 美元；HOSTKEY 的独显服务器从 199 欧元/月起，4090 单卡 379 欧元/月；两者的分界线大致在每月两三百小时的使用量上。 行动建议：先用 API 把业务跑起来，确认调用量稳定之后再考虑自建；自建的第一台机器优先按小时开，用一周时间测出真实利用率，再决定要不要转包月；无论选哪种，都别把模型权重和训练数据只放在实例的本地盘上，对象存储那一份才是长期资产。所有价格与库存以商家控制台实时显示为准，本文的数字只用于判断量级。