跳至主要內容

報價與切片

當你打開租用 GPU,頁面上的每一張卡片都是一則報價。挑一則是部署的前半段 — 後半段是挑選範本。

報價是什麼

報價是 Superheat 機群中某一台實體機器上可租用的切片:1、2、4 或 8 張同一型號的 GPU,以單一每小時價格發布。

機器不是你租用的單位。一台 8 GPU 的主機可以整台發布成一則 8× 報價,也可以切成同型號的多則較小報價。你租的是切片;切片裡的 GPU 不與任何人共用。

機器不是你租用的單位,報價也不是貨架上的單一商品。一台機器會發布它能提供的每一種形態,而它們都取自同一批空閒 GPU。一台閒置的雙卡主機同時既是兩則 1× 報價,也是一則 2× 報價 — 同樣的兩張卡,兩種描述方式。

所以市集裡的卡片帶的是數量,而不只是有或沒有。在那台主機上租走一則 1×,另一則 1× 仍在售,而 2× 則會下架,因為已經湊不出一對了。

你租的是切片。切片裡的 GPU 只屬於你 — 一張卡永遠不會被兩個租戶分割 — 但它周圍的機器不是:另一位租戶可能持有相鄰的那張卡。請參閱你在一台機器上共用什麼

你的切片一直屬於你,直到上面的執行個體被銷毀為止 — 包括那個執行個體處於停止狀態的期間。這就是為什麼停止仍然佔著你的位置

為什麼價格是以切片為單位

卡片上的每小時價格涵蓋整個切片,而不是單張 GPU。一則 $3.20/hr 的 4× 報價就是 $3.20/hr,不是 $12.80/hr。

有兩個結果值得記牢:

  • 拿 1× 卡片的標示價格去比 8× 卡片,比的是不同數量的硬體。請比較相同規格的報價,或自己除以 GPU 數量。
  • GPU 價格不是帳單的全部。硬碟另外報價,按每 GB 每小時計算,而且在執行個體停止期間仍持續累計。部署頁面會把兩者加總成一個估算值。

價格由 Superheat 訂定。機器擁有者不會出價,也沒有拍賣或競價市場 — 只要你握著這則報價,卡片上的數字就是你要付的數字。

卡片上的欄位代表什麼

欄位告訴你的資訊
GPU 型號切片中的 NVIDIA 型號,例如 RTX 4090H100 PCIe
NVIDIA · ×N這個切片裡有幾張 GPU:1、2、4 或 8。
價格整個切片的每小時費率。僅含 GPU — 硬碟另計。
每張卡的 VRAM單張 GPU 上的記憶體。乘上 GPU 數量就是整個切片給你的總量。
TFLOPS這則報價公布的吞吐量數字。適合用來互相排序比較報價,不能當成效能基準測試結果。
儲存實體機器的硬碟總容量。這是你在部署時可掛載硬碟的上限。
位置機器所在的區域,附上國旗。請參閱區域
可靠度主機實測的可靠度,以百分比表示。盾牌圖示代表已驗證的主機。
可用這台機器目前還能提供多少則該形態,以及上限是多少 — 例如 1 of 2。僅在機器能提供多於一則時顯示,以免單卡主機的介面變得雜亂。
N left同一個數字,顯示在選取圓點旁邊,方便你瀏覽時快速判斷。
全部已租用當該形態的每一則都被租走時,取代選取圓點顯示。這些卡片無法選取。

更多細節會開啟一個面板,顯示機器的其餘資訊:整個切片的 VRAM 總量、主機支援的最高 CUDA 版本、PCIe 世代與通道數、CPU 型號與核心數、記憶體、硬碟容量與類型、網路上行與下行速度、主機名稱,以及以每 GB 每月報價的儲存費率。設有最長租用期限的報價也會在這裡顯示。

部署頁面就是拿這些數字來檢查範本的限制條件:機器的最高 CUDA 版本對上範本的 CUDA 下限、每張卡的 VRAM 對上它的 VRAM 下限,再加上它需要的架構,以及主機能不能執行虛擬機器。不相容的範本會在選擇器中被停用並附上原因,所以不符合的情況會在你部署之前而不是之後浮現。

可租用狀態與資料過時

報價的狀態是已上架已下架,另外還單獨帶一個仍有多少則空閒的計數。「售罄」指的是計數為零,而不是一種狀態 — 一種形態可以既被別人租著,又還有餘量留給你。

市集預設隱藏售罄的報價;顯示售罄切換開關會把它們以灰階帶回來,這在你想了解機群裡有什麼、即使現在租不到時很有用。已下架的報價 — 機器已離開機群,或該型號不再出售 — 則永遠不會顯示。

目錄透過輪詢更新。當輪詢落後時,市集會顯示橫幅說明列表有多舊。更新失敗會保留最後一次已知的目錄 — 頁面會過時,但不會變空 — 所以請把橫幅當成警告:你選的卡片可能已經沒了。

報價可能在你選取與部署之間售罄

兩個人可能同時選到同一張卡片。先部署的人贏;後者會被送回市集,該報價標示為無法租用。輸掉這場競爭的部署不會產生任何費用。

相關內容