首页/GPU 租用/延迟与线路

Latency From Asia · RTT & Routing

从国内访问美国 GPU 服务器:延迟与线路

这一页只回答一个问题:机器在美国,从国内用到底卡不卡。下面是四座机房到六个亚洲城市的往返延迟实测、按场景的判断,以及机房该怎么选、几百 GB 数据集怎么传才不慢。

一句话回答:从中国大陆到我们四座美国机房的往返延迟在 140–190 ms 之间,拉斯维加斯 LAS-1 最近(香港约 142 ms),阿什本 IAD-1 最远(约 186 ms)。训练、微调、批量推理与出图这些「提交任务后等结果」的场景完全不受影响,因为算力全部发生在机器本地;受影响的只有需要来回交互的操作——敲命令行、拖 Jupyter 界面、远程桌面看画面,会有半秒左右的迟滞感。带宽不是问题:每台实例共享 25 Gbps 出口且不限流量,几百 GB 数据集用多线程工具传,通常几十分钟就能到位。

Measured RTT

实测往返延迟(ms)

由独立于生产网络的探测节点每 60 秒采样一次,取近 30 天中位数。数值为 ICMP 往返时间,不含 TLS 握手。实际线路受运营商与时段影响,晚高峰可能上浮 10–25 ms。

实时状态 →
亚洲主要城市到gpuli.com四座美国机房的往返延迟
出发地DFW-1 达拉斯IAD-1 阿什本LAS-1 拉斯维加斯ORD-1 芝加哥推荐
香港158186142171LAS-1
新加坡192221168204LAS-1
东京128156108141LAS-1
台北152180134165LAS-1
首尔146174126159LAS-1
胡志明204232182217LAS-1

中国大陆各地一般比香港再高 5–20 ms:上海、深圳接近香港数值,北京、成都通常多 10–15 ms,新疆、内蒙等地再多一些。跨太平洋的物理距离决定了下限——光在光纤里走一个来回,上海到洛杉矶就要约 110 ms,任何服务商都绕不过这个数。

Does It Matter

哪些场景不受影响,哪些会卡

判断标准很简单:这件事需不需要「你按一下、机器答一下」来回很多次。

延迟基本无感

  • 大模型训练与微调:任务提交后全部在机器本地跑,你只是偶尔看一眼日志。跑三天的任务,多等 0.16 秒没有意义。
  • 批量推理与离线评测:请求可以并发、可以流水线,吞吐由 GPU 决定而不是由延迟决定。
  • Stable Diffusion / ComfyUI 批量出图:点一次生成、等十几秒出图,网络往返只占其中不到 2%。
  • 数据集上传与结果下载:这是带宽问题不是延迟问题,见下一节。
  • 对外提供 API 服务:如果你的用户也在海外,实例的美国位置反而是优势。

能感觉到迟滞

  • SSH 里逐个字符敲命令:每个按键回显要等一个往返,打字会有「跟不上手」的感觉。用 tmux 或本地编辑器改好再传,可以基本消除。
  • Jupyter 里频繁点选、拖拽:单元格执行本身不慢,慢的是界面交互。建议写好整段再执行。
  • 远程桌面 / VNC 看实时画面:150 ms 的往返做不到跟手,不适合当图形工作站用。
  • 把美国实例当国内业务的在线推理后端:终端用户在国内的话,每次请求要多付 150 ms,交互式产品会被感知。
  • 需要与国内数据库频繁往返的任务:每次查询都要跨太平洋,应把数据先同步到实例本地。
Pick A Region

四座机房怎么选

如果只看延迟,从亚洲出发一律选 LAS-1。但机房还决定了你能租到哪些卡。

按机房筛选库存 →
LAS-1

拉斯维加斯 · 内华达

142 ms

亚洲延迟最低,2023 年启用。主力是 A100、RTX 4090、A6000、RTX 3090。交互多、预算敏感的场景首选。

DFW-1

达拉斯 · 德克萨斯

158 ms

2021 年启用的第一座机房,规模最大(2,400+ 张卡),卡型最全:H200、H100、MI300X、4090、5090 都有。多卡整机与 InfiniBand 组网也在这里。

ORD-1

芝加哥 · 伊利诺伊

171 ms

2025 年新建,电力最充裕。B200 与 RTX 5090 首发在这里,想要新卡就得接受多 30 ms。

IAD-1

阿什本 · 弗吉尼亚

186 ms

美东骨干枢纽,到欧洲最快。亚洲延迟最高,但如果你的服务对象在欧美,这里对终端用户最友好。

选错了也不要紧:实例创建后 1 小时内可以无理由退款到余额,换个机房重开即可。跨机房迁移数据走内网,不计流量。

Moving Data

几百 GB 数据集怎么传才不慢

跨太平洋链路的瓶颈不是带宽,而是 TCP 单连接在高延迟下的窗口限制。单线程 scp 可能只跑到 3–5 MB/s,同一条链路开 16 个连接能到 200 MB/s 以上。

完整传输文档 →

用多线程工具,别用 scp

# rsync 走 SSH,断点续传,适合目录
rsync -avP --partial -e "ssh -p 22071" \
  ./dataset/ [email protected]:/data/dataset/

# 大文件优先 aria2:16 线程,通常快 20–40 倍
aria2c -x 16 -s 16 -k 10M "https://your-source/dataset.tar"

# 已经在对象存储里的,直接从实例内网拉
aws s3 sync s3://datasets-8f3a/imagenet/ /data/imagenet/ \
  --endpoint-url https://s3.dfw1.gpuli.com

实测参考(DFW-1,从香港出发)

方式吞吐100 GB 耗时
scp 单线程约 4 MB/s7 小时
rsync 单线程约 6 MB/s4.6 小时
aria2c −x16约 120 MB/s14 分钟
S3 同机房内网约 900 MB/s2 分钟

最省事的做法:数据先传一次到同机房的对象存储(₮0.015/GB/月),之后每次开新实例都从内网拉,几分钟就位,也不占系统盘。出口流量不额外计费。

Test It Yourself

自己先测一遍

不用注册就能测。下面四个探测地址只回 ICMP 与一个 1 MB 的测速文件,不涉及任何账户。

# 往返延迟
ping -c 20 speedtest-las1.gpuli.com
ping -c 20 speedtest-dfw1.gpuli.com
ping -c 20 speedtest-ord1.gpuli.com
ping -c 20 speedtest-iad1.gpuli.com

# 路由与丢包(看看在哪一跳开始变慢)
mtr -rwzbc 50 speedtest-las1.gpuli.com

# 单线程下载速度
curl -o /dev/null -w "%{speed_download}\n" \
  https://speedtest-las1.gpuli.com/1m.bin

测出来比表格里高 30 ms 以上,通常是本地运营商绕路,换个时段或换运营商会有明显差别。把 mtr 结果贴进工单,我们可以帮你看是哪一段的问题,必要时调整我们这一侧的出口线路。

FAQ

常见问题

帮助中心 →
为什么不在亚洲建机房,延迟不就低了?
因为我们的三条原则依赖美国的法律与电力环境:不做实名、不看实例、只收加密货币,这套模式在多数亚洲司法辖区无法合规运营。电价也是现实因素——德州工业电价约为东京或新加坡的三分之一,这个差价直接反映在你看到的月租上。我们宁可承认延迟这个短板,也不愿为了少 100 ms 而改掉整个模式。如果你的业务必须部署在亚洲本地,我们不是合适的选择,这点在平台对比里也写了。
用加速器 / 专线能把延迟降下来吗?
物理距离决定的部分降不下来(上海到洛杉矶单程约 55 ms 是光速下限),但绕路造成的额外延迟可以消除。如果你实测到 250 ms 以上,多半是运营商把流量绕到了欧洲或南美,这时用 IEPL 专线或商业加速线路确实能回到 150–170 ms 区间。我们不转售任何加速服务,也不建议为了敲命令行更顺手而额外付一笔线路费——用 tmux 加本地编辑器是免费的解法。
延迟会影响多卡训练的速度吗?
不会。多卡之间的通信全部发生在机器内部:SXM 卡型走 NVLink 全互联,PCIe 卡型走 PCIe 交换,跨节点走机房内的 400G InfiniBand,都在美国本地,与你所在的位置无关。你的网络延迟只影响你和机器之间的控制信道,也就是敲命令和看日志。
晚上高峰期会变慢很多吗?
中国大陆出海带宽在 20:00–24:00 确实紧张,往返延迟通常上浮 10–25 ms,个别时段丢包 1–3%。对训练任务没有影响;如果你在这个时段传大数据集,多线程工具的效果会更明显。我们这一侧的四条出口全部是 100G 直连骨干,不存在拥塞,瓶颈在跨太平洋段与国内出口。
我在香港 / 新加坡,选哪个机房?
延迟最低都是 LAS-1 拉斯维加斯(香港 142 ms、新加坡 168 ms)。但如果你要的卡只有 DFW-1 有(比如 MI300X、H200 多卡整机),多出的 16 ms 完全不值得为之改变型号——先按卡选,再按延迟选。库存可以在 GPU 租用价格页按机房筛选。

先测一周,再决定包月

周租 7 天,RTX 4090 ₮109 起。实例创建后 1 小时内可无理由退款,机房选错也能重来。

本页最后更新: · 价格与库存以 GPU 租用价格 页为准

Telegram
Telegram 客服@gpuli_cn7×24 小时在线
工单