撮合市场和自营机房,是两门生意
价差不来自谁更良心,而是两种模式把风险放在了不同的人身上。
Vast.ai:平台不拥有任何一张卡
供给方是全球的个人矿工、小型托管商和有闲置卡的工作室,平台负责撮合、计费与评分。这套模式的全部特点都从这一条推出来。
- 价格由竞价形成,低谷时段能低到很难想象
- 宿主机的 CPU、内存、硬盘、上行带宽由房东决定
- 房东随时可下架:卖卡、搬家、电费涨了、家里跳闸
- 合同对方是平台,掌控硬件的却是一个匿名个人
- 卡型与地理位置丰富,全球哪儿都可能有
gpuli.com:卡是我们买的,运维是我们的人
6,800 多张 GPU 全是公司自有资产,装在四个自营的美国机房里。没有房东这一层,也就没有「这台机器到底什么配置」的不确定性。
- DFW-1 达拉斯 2,400+ 张、IAD-1 阿什本 1,900+、LAS-1 拉斯维加斯 1,600+、ORD-1 芝加哥 900+
- 宿主机规格统一定义,写在每张卡的详情页上
- 周期内价格锁死,不竞价、不会被更高出价顶掉
- 近 12 个月可用性 99.95%,服务 12,000+ 客户
- 最短周期 7 天,做不到按小时开关机
逐项对比:市场模式 vs 自营模式
Vast.ai 一侧写的是撮合市场这种模式的共性,不针对某台具体机器;实际表现取决于房东,可能远好于也可能远差于这里的描述,请以其官网为准。
| 对比项 | gpuli.com GPULI.COM | Vast.ai(撮合市场) |
|---|---|---|
| 硬件归属 | 公司自有6,800+ 张卡为自有资产,四座自营美国机房。 | 平台不持有硬件,机器来自第三方,规格与位置由出租方申报。 |
| 宿主机配置 | 统一定义H100 SXM 配 20 vCPU / 200 GB 内存 / 1 TB NVMe,下单前可见。 | 差异极大:从 EPYC 加 NVMe 的正规服务器到矿机改造机都有。 |
| 计费方式 | 按周 / 按月7 天或 30 天预付,下单时从余额一次扣除,价格锁死。 | 按秒计费与竞价,短时任务成本极低,长期占用按小时累加。 |
| 会不会被中断 | 不会无竞价、无 spot 档位,周期内整卡独占,不回收不降频。 | 可中断档位会被顶掉;即使不可中断,房东下线机器实例也会消失。 |
| 可用性承诺 | SLA 99.9%未达标补 3 倍停机时长,低于 99% 补 10 倍,低于 95% 全月免费。 | 市场模式难以对第三方机器做统一承诺,通常以退还未用余额为主。 |
| 故障处理 | 30 分钟内迁移或更换,工单 / 邮件 / Telegram 三渠道,责任方只有一个。 | 需平台与房东两边协调,房东的响应速度不受平台控制。 |
| 网络与 IP | 25 Gbps + 独立 IPv4不限流量,除 SSH 外端口 1:1 直通,额外 IP ₮4 / 月。 | 多为端口映射,上行带宽取决于房东线路,独立 IP 非默认配置。 |
| 数据可及性 | 单一责任方承诺不做进程扫描、不做流量深度检测、不做内容审核。 | 房东对自己的机器有物理与管理员权限,容器隔离防不住宿主机。 |
| 付款与身份 | 只收加密货币USDT / USDC / BTC / ETH / XMR / LTC / SOL,注册只要邮箱。 | 以法币渠道为主,账号与支付方式要求以其官网为准。 |
| 机房位置 | 仅美国本土国内往返 140–190 ms,LAS-1 拉斯维加斯最低约 142 ms。 | 全球分散,可能有离你更近的节点,这是市场模式的真实优势。 |
关于 Vast.ai 的描述基于撮合市场这一模式的公开常识整理,不代表任何具体机器的实际情况。gpuli.com一侧以 GPU 租用价格 与 服务条款 为准。同一形式的逐项对比另有 RunPod 替代方案、Lambda Labs 替代方案、AutoDL 替代方案 与 恒源云替代方案 四篇,五家放在一张表里的横向总览见 平台对比页。
一次中断到底花掉多少钱
省下的租金按小时看得见,中断的代价一次性砸下来。放同一张表上算一遍。
场景:8 卡 H100 做 70B 全参微调,连续跑 6 天,数据集 800 GB,checkpoint 每 2 小时存一次。第 5 天夜里房东把机器下架了,你早上醒来看到的是一个已经消失的实例。
| 损失项 | 说明 | 时间 | 折合成本 |
|---|---|---|---|
| 丢掉的算力 | 最后一次 checkpoint 之后的计算作废,最坏是完整 2 小时 | 2 h | ₮40 |
| 重新找同等机器 | 同型号同互联方式的 8 卡整机不是随时都有 | 2–12 h | 机会成本 |
| 数据集重传 | 800 GB,新房东上行若只有 200 Mbps,理论也要 9 小时 | 4–12 h | ₮80–240 |
| 环境重建 | 驱动、CUDA、依赖、NCCL 参数重新调一遍 | 1–3 h | 人力 |
| 你自己的时间 | 半夜爬起来处理,或第二天才发现已空转八小时 | — | 最贵的一项 |
| 合计 | 一次中断通常让任务推迟半天到一天半 | 9–29 h | 远超省下的租金 |
什么情况会动你的机器
只有硬件故障一种。届时 30 分钟内迁移或更换,按 SLA 补偿停机时长的 3 倍。没有竞价、没有回收、没有「房东不干了」这个选项。
到期之后会怎样
到期前 3 天与 1 天发邮件提醒;停机后数据保留 7 天,磁盘与公网 IP 不变,续费即恢复,7 天后释放。不会某天早上机器直接消失。
补偿怎么申请
30 天内提工单,附实例 ID 与时间段。低于 99% 补 10 倍时长,低于 95% 当月全免。补偿以时长发放,不折现,这点先说清楚。
你的模型权重放在谁的机器上
撮合市场最难解决、也最少被讨论的一点。包括对我们自己不利的那部分。
- 物理机器的拥有者永远有办法。容器隔离的是租客之间,不是租客与宿主机管理员之间。谁掌握 root 或 BMC,谁就能读磁盘、dump 显存、看进程。这是操作系统层面的事实,不是某家平台的缺陷。
- 市场模式里,这个人是你不认识的匿名个人。可能是正经的小机房,也可能是刚把矿机改成 AI 服务器的散户。平台能评分、能封号,但无法阻止一台自己不拥有的机器上发生的事,事后取证也很难。
- 我们这里同样有这个能力,这点不装。区别在责任主体:GPULI LLC 是美国怀俄明州注册实体(WY 2021-000984127),有公开条款、可被追责的承诺,和每月更新的权证金丝雀。
- 具体承诺是三条。不做进程扫描、不做流量深度检测、不做内容审核;运维只能看到温度、功耗与链路状态;登录日志保留 30 天,IP 用每日盐哈希。写在 无需实名说明 与 隐私政策 里。最近一版金丝雀(2026-09-01):2025 年 11 次法律请求,均为民事传票或滥用投诉,0 封国家安全信函,0 份秘密法院命令。
- 你自己能做的。敏感数据先做全盘加密再上传,密钥用环境变量注入而不是写进镜像,推理服务只暴露必要端口。我们能做的是不主动去看;做不到的是让数据在运行时对宿主机不可见——没有任何 GPU 出租商能做到,声称能做到的都值得怀疑。
那笔价差,具体买到什么
下面是主力卡的挂牌价与折合小时价。竞价最低档确实可能更低,我们不猜具体数字,只说差价换回了哪几样东西。
| 型号 | 显存 | 月租(30 天) | 折合每小时 | 周租(7 天) | 典型用途 | |
|---|---|---|---|---|---|---|
| NVIDIA H100 SXM热销 Hopper · NVLink | 80 GB | ₮1,899/月 | ₮2.64 | ₮549 | 全参微调、长上下文推理 | 详情 |
| NVIDIA H200 Hopper · NVLink | 141 GB | ₮2,599/月 | ₮3.61 | ₮739 | 大显存单卡推理 | 详情 |
| NVIDIA A100 SXM Ampere · NVLink | 80 GB | ₮1,099/月 | ₮1.53 | ₮319 | 性价比训练 | 详情 |
| NVIDIA L40S Ada · PCIe 交换 | 48 GB | ₮649/月 | ₮0.90 | ₮189 | 长期在线推理 | 详情 |
| NVIDIA RTX 5090 Blackwell · PCIe 交换 | 32 GB | ₮499/月 | ₮0.69 | ₮149 | 出图、小模型微调 | 详情 |
| NVIDIA RTX 4090 Ada · PCIe 交换 | 24 GB | ₮369/月 | ₮0.51 | ₮109 | ComfyUI、SD、推理 | 详情 |
| NVIDIA RTX 3090 Ampere · PCIe 交换 | 24 GB | ₮249/月 | ₮0.35 | ₮75 | 入门、跑通流程 | 查看 |
- 确定的宿主机。每一台都是同一份规格单,不必在挂牌列表里逐条比较 PCIe 通道、内存条数量和硬盘类型,也不会遇到「显卡对了但喂不饱」。
- 25 Gbps 共享出口不限流量。入向出向都不额外收费,拉几个 TB 的数据集不会有账单惊喜;市场机器的上行常是家宽或小机房共享线路,传数据可能比训练还久。
- 一个固定的美国公网 IPv4。除 SSH 段外端口 1:1 直通,域名 A 记录直接指过来对外提供推理服务,停机与 7 天保留期内 IP 不变。
- 真 NVLink 全互联。H100 SXM、H200、B200、A100 SXM、MI300X 的多卡是节点内全互联,不是拼凑的单卡机。8 卡 H100 ₮14,432 / 月(省 5%),多机组网可加订 InfiniBand ₮600 / 节点 / 月。L40S 与 RTX 系列走 PCIe 交换,没有 NVLink,这点我们也标清楚。
- 一个能追责的对方。工单、[email protected]、Telegram @gpuli_cn,问题从头到尾只有我们一个责任方,不用在平台和房东之间转述。
哪些情况你该继续用 Vast.ai
这一节是认真的。有几类需求我们做不了,硬凑只会浪费你的钱。
短时一次性任务
跑个 benchmark、转一批视频、临时出几百张图,两三小时结束。按秒计费加竞价在这个区间是碾压性的,我们最短 7 天,等于让你为 165 小时的闲置付钱。
极端弹性
突然开 20 台并行跑两小时再全部释放。市场的分散供给天然适合这个,我们的库存与计费方式都支持不了。
预算压到极限
学生、个人爱好者、纯做实验,能跑起来就行,断了大不了重来。这时最低价是唯一指标,我们的 SLA 对你没有价值。
需要亚洲或欧洲节点
四个机房全在美国本土,国内往返 140–190 ms。实时语音、云游戏、交互式串流这类对单次往返敏感的业务,请找更近的节点。
想试的话,这样迁最省事
不建议整体一次性搬迁。先开一周把流程跑通、吞吐对上,再去退那边的机器。
固化环境
旧实例上跑 pip freeze 或 conda env export 存下来,自定义镜像用 docker save 导出。多数情况用不上——我们预装了 PyTorch 2.5 + CUDA 12.4、vLLM 0.6、ComfyUI 等镜像。
开一周试跑
周租按 7 天计:RTX 4090 ₮109、A100 SXM ₮319、H100 SXM ₮549、H200 ₮739。创建后 1 小时内不合适可无理由退款到余额,到期升月租时已付费用按剩余天数折抵。
搬数据比吞吐
几百 GB 以内直接 rsync,更大走对象存储 ₮0.015 / GB / 月中转,出口流量免费。搬完跑同一个 batch 比较每秒样本数,确认新机器没被 IO 卡住。
切流量再退租
域名 A 记录指到新实例的固定 IPv4,TTL 先调到 60 秒,观察 24 小时无异常再退旧机器。命令行工具 gpuli 可脚本化查余额与自动续费。
关于 Vast.ai 替代方案的常见问题
Vast.ai 上同样的卡便宜不少,我为什么要多花这个钱?
你们的卡是自己的吗,会不会也是从别人那里转租的?
我在市场平台跑训练老被中断,你们能保证不断吗?
把模型权重放在你们机器上安全吗?和放在房东那里有什么区别?
你们支持按小时计费吗?我不想为闲置时间付钱。
付款和注册要提交什么资料?能用支付宝吗?
先租一周,用实际吞吐说话
邮箱注册,USDT 充值,约三分钟拿到 SSH。不合适 1 小时内可退到余额。
本页最后更新: · 价格与库存以 GPU 租用价格 页为准