跳到主要内容

报价与切片

打开 租用 GPU 时,页面上的每一张卡片都是一份报价。选中其中一份是部署的前一半——后一半是挑选模板。

报价是什么

报价是 Superheat 机群中某一台物理机器上一种可租用的形态:1、2、4 或 8 张同一型号的 GPU,以单一小时价格发布。

机器不是你租用的单位,报价也不是货架上的单件商品。一台机器会发布它能提供的每一种形态,而它们都取自同一批空闲 GPU。一台空闲的双卡主机同时既是两份 1× 报价,也是一份 2× 报价——同样的两张卡,两种描述方式。

所以市场里的卡片带的是数量,而不只是有或没有。在那台主机上租走一份 1×,另一份 1× 仍在售,而 2× 则会下架,因为已经凑不出一对了。

你租的是切片。切片里的 GPU 只属于你——一张卡永远不会被两个租户分割——但它周围的机器不是:另一位租户可能持有相邻的那张卡。参见你在一台机器上共享什么

你的切片一直属于你,直到其上的实例被销毁——包括那个实例处于停止状态期间。这就是为什么停止仍然占着你的槽位

为什么价格是按切片计的

卡片上的小时价格覆盖整个切片,而不是单张 GPU。一份 4× 报价标价 $3.20/小时,就是 $3.20/小时,不是 $12.80/小时。

有两个后果值得记牢:

  • 用标价直接比较一张 1× 卡片和一张 8× 卡片,是在比较数量不同的硬件。请比较同规格的报价,或者自己除以 GPU 数量。
  • GPU 价格不是账单的全部。磁盘单独计价,按 GB 每小时,而且实例停止期间还在继续累计。部署页面会把两者合并成一个估算值。

价格由 Superheat 制定。机器所有者不参与出价,也没有拍卖或竞价市场——只要你还持有这份报价,卡片上的数字就是你要付的数字。

卡片上各字段的含义

字段它告诉你什么
GPU 型号切片中的 NVIDIA 型号,例如 RTX 4090H100 PCIe
NVIDIA · ×N这份切片里有多少张 GPU:1、2、4 或 8。
价格整个切片的小时费率。仅 GPU——磁盘另算。
每卡显存单张 GPU 上的显存。乘以 GPU 数量得到整个切片给你的总量。
TFLOPS为这份报价发布的吞吐量数值。适合用来给报价之间排序,不要当作跑分结果。
存储该物理机器的磁盘总量。这是你在部署时能挂载的磁盘上限。
位置机器所在的区域,附带国旗。参见 区域
可靠性主机实测的可靠性,以百分比表示。盾形图标标记已验证的主机。
可用这台机器当前还能提供多少份该形态,以及上限是多少——例如 1 of 2。仅在机器能提供多于一份时显示,以免单卡主机界面变得杂乱。
N left同一个数字,显示在选择圆点旁边,方便你浏览时快速判断。
全部已租用当该形态的每一份都被占用时,取代选择圆点显示。这些卡片无法选中。

更多详情 会打开一个面板,展示这台机器的其余信息:整个切片的总显存、主机支持的最高 CUDA 版本、PCIe 代次与位宽、CPU 型号与核心数、内存、磁盘大小与类型、网络上下行、主机名,以及按 GB 每月报出的存储费率。带有最长租用时长的报价也会在这里显示它。

部署页面正是拿这些数据去核对模板的约束条件:机器的最高 CUDA 版本对模板的 CUDA 下限、每卡显存对它的显存下限,再加上它需要的架构,以及主机能否运行虚拟机。不兼容的模板会在选择器里被禁用并附上原因,因此不匹配会在你部署之前而不是之后暴露出来。

可用性与陈旧数据

报价的状态是已上架已下架,另外还单独带一个仍有多少份空闲的计数。“售罄”指的是计数为零,而不是一种状态——一种形态可以既被别人租着,又还有余量留给你。

市场默认隐藏售罄的报价;显示售罄 开关会把它们灰显着带回来,这在你此刻租不到它们时判断机群里有什么很有用。已下架的报价——机器已离开机群,或该型号不再出售——则永远不会显示。

目录通过轮询刷新。当轮询落后时,市场会显示一条横幅,说明列表有多旧。刷新失败会保留上一次已知的目录——页面会变旧,但绝不会变空——所以把这条横幅当成一个警告:你选中的卡片可能已经没了。

报价可能在选中和部署之间售罄

两个人可能同时选中同一张卡片。先部署的一方获胜;另一方会被送回市场,报价标记为不可用。在这场竞争中落败的部署不会产生任何费用。

相关内容