報價與切片
當你打開租用 GPU,頁面上的每一張卡片都是一則報價。挑一則是部署的前半段 — 後半段是挑選範本。
報價是什麼
報價是 Superheat 機群中某一台實體機器上可租用的切片:1、2、4 或 8 張同一型號的 GPU,以單一每小時價格發布。
機器不是你租用的單位。一台 8 GPU 的主機可以整台發布成一則 8× 報價,也可以切成同型號的多則較小報價。你租的是切片;切片裡的 GPU 不與任何人共用。
機器不是你租用的單位,報價也不是貨架上的單一商品。一台機器會發布它能提供的每一種形態,而它們都取自同一批空閒 GPU。一台閒置的雙卡主機同時既是兩則 1× 報價,也是一則 2× 報價 — 同樣的兩張卡,兩種描述方式。
所以市集裡的卡片帶的是數量,而不只是有或沒有。在那台主機上租走一則 1×,另一則 1× 仍在售,而 2× 則會下架,因為已經湊不出一對了。
你租的是切片。切片裡的 GPU 只屬於你 — 一張卡永遠不會被兩個租戶分割 — 但它周圍的機器不是:另一位租戶可能持有相鄰的那張卡。請參閱你在一台機器上共用什麼。
你的切片一直屬於你,直到上面的執行個體被銷毀為止 — 包括那個執行個體處於停止狀態的期間。這就是為什麼停止仍然佔著你的位置。
為什麼價格是以切片為單位
卡片上的每小時價格涵蓋整個切片,而不是單張 GPU。一則 $3.20/hr 的 4× 報價就是 $3.20/hr,不是 $12.80/hr。
有兩個結果值得記牢:
- 拿 1× 卡片的標示價格去比 8× 卡片,比的是不同數量的硬體。請比較相同規格的報價,或自己除以 GPU 數量。
- GPU 價格不是帳單的全部。硬碟另外報價,按每 GB 每小時計算,而且在執行個體停止期間仍持續累計。部署頁面會把兩者加總成一個估算值。
價格由 Superheat 訂定。機器擁有者不會出價,也沒有拍賣或競價市場 — 只要你握著這則報價,卡片上的數字就是你要付的數字。
卡片上的欄位代表什麼
| 欄位 | 告訴你的資訊 |
|---|---|
| GPU 型號 | 切片中的 NVIDIA 型號,例如 RTX 4090 或 H100 PCIe。 |
NVIDIA · ×N | 這個切片裡有幾張 GPU:1、2、4 或 8。 |
| 價格 | 整個切片的每小時費率。僅含 GPU — 硬碟另計。 |
| 每張卡的 VRAM | 單張 GPU 上的記憶體。乘上 GPU 數量就是整個切片給你的總量。 |
| TFLOPS | 這則報價公布的吞吐量數字。適合用來互相排序比較報價,不能當成效能基準測試結果。 |
| 儲存 | 實體機器的硬碟總容量。這是你在部署時可掛載硬碟的上限。 |
| 位置 | 機器所在的區域,附上國旗。請參閱區域。 |
| 可靠度 | 主機實測的可靠度,以百分比表示。盾牌圖示代表已驗證的主機。 |
| 可用 | 這台機器目前還能提供多少則該形態,以及上限是多少 — 例如 1 of 2。僅在機器能提供多於一則時顯示,以免單卡主機的介面變得雜亂。 |
N left | 同一個數字,顯示在選取圓點旁邊,方便你瀏覽時快速判斷。 |
| 全部已租用 | 當該形態的每一則都被租走時,取代選取圓點顯示。這些卡片無法選取。 |
更多細節會開啟一個面板,顯示機器的其餘資訊:整個切片的 VRAM 總量、主機支援的最高 CUDA 版本、PCIe 世代與通道數、CPU 型號與核心數、記憶體、硬碟容量與類型、網路上行與下行速度、主機名稱,以及以每 GB 每月報價的儲存費率。設有最長租用期限的報價也會在這裡顯示。
部署頁面就是拿這些數字來檢查範本的限制條件:機器的最高 CUDA 版本對上範本的 CUDA 下限、每張卡的 VRAM 對上它的 VRAM 下限,再加上它需要的架構,以及主機能不能執行虛擬機器。不相容的範本會在選擇器中被停用並附上原因,所以不符合的情況會在你部署之前而不是之後浮現。
可租用狀態與資料過時
報價的狀態是已上架或已下架,另外還單獨帶一個仍有多少則空閒的計數。「售罄」指的是計數為零,而不是一種狀態 — 一種形態可以既被別人租著,又還有餘量留給你。
市集預設隱藏售罄的報價;顯示售罄切換開關會把它們以灰階帶回來,這在你想了解機群裡有什麼、即使現在租不到時很有用。已下架的報價 — 機器已離開機群,或該型號不再出售 — 則永遠不會顯示。
目錄透過輪詢更新。當輪詢落後時,市集會顯示橫幅說明列表有多舊。更新失敗會保留最後一次已知的目錄 — 頁面會過時,但不會變空 — 所以請把橫幅當成警告:你選的卡片可能已經沒了。
兩個人可能同時選到同一張卡片。先部署的人贏;後者會被送回市集,該報價標示為無法租用。輸掉這場競爭的部署不會產生任何費用。