瀏覽市集
在側邊欄開啟 租用 GPU。該頁面上的每張卡片都是一項報價:一台實體機器上可租用的切片,內含 1、2、4 或 8 張 GPU。顯示的價格是整個切片的價格,不是單張 GPU 的價格,而且是由 Superheat 訂價,不是機器擁有者。一台主機可以列出多種切片大小,所以兩張卡片有可能位於同一台實體機器上。
選擇卡片是兩個步驟中的第一步;第二步是部署。
卡片顯示什麼
| 欄位 | 意義 |
|---|---|
| GPU 型號 | 切片中的顯示卡,下方標示 NVIDIA · ×N |
×N | 切片包含幾張 GPU。價格涵蓋全部 |
| 價格 | 整個切片的每小時費率,執行個體執行期間按秒計費 |
| 每張卡 VRAM | 單張 GPU 上的記憶體。乘以 N 就是這個切片給你的總量 |
| TFLOPS | 報價標示的吞吐量數字,也是 TFLOPS 排序所依據的數字 |
| 儲存 | 主機機器上的硬碟總量。這是你在部署時可以要求的硬碟上限 |
| 位置 | 國旗加上區域代碼,例如 US-CA 或 FI-HEL |
| 可靠度 | 主機的可靠度分數,以百分比表示。盾牌圖示代表已驗證的主機 |
| 已租用 | 已被租用的報價上會有的徽章。只有開啟 顯示無法使用 時才看得到 |
點一下卡片會選取它,並在頁面底部升起一列工具列,顯示型號、價格、VRAM、硬碟與位置,以及一個 繼續 按鈕。再點同一張卡片一次就會取消選取。
更多詳細資料
任一張卡片上的 更多詳細資料 會開啟一個側邊面板,顯示完整的機器規格。這個面板在已租用的報價上一樣能用,所以你可以檢視目前拿不到的硬體。
| 欄位 | 意義 |
|---|---|
| 總 VRAM | 每張卡 VRAM × GPU 數量 |
| Max CUDA | 這台機器支援的最高 CUDA 版本。部署頁面會拿範本的 CUDA 下限來對照它 |
| PCIe | 世代與通道寬度,例如 4.0 ×16 |
| CPU、CPU 核心數、RAM | 主機機器的 CPU 型號、核心數與 RAM |
| 硬碟 | 主機硬碟容量與類型(NVME、SSD 或 HDD) |
| 網路 | 標示的上行與下行頻寬 |
| 主機 | 機器的主機名稱 |
| 儲存費率 | 硬碟每 GB 每月的費用,由每小時費率換算而來 |
| 最長租用時間 | 只有在報價有宣告時才顯示 —— 機器標示的最長租用時間 |
面板的按鈕寫著 租用這張 GPU,會直接帶你到部署頁面。在已租用的報價上,它會寫 目前已租用 並呈停用狀態。
篩選條件
篩選列位於格狀清單上方。篩選條件會疊加 —— 一項報價必須全部滿足 —— 而且目前的篩選狀態會存在頁面網址中,所以篩選後的檢視可以加入書籤或傳給團隊成員。
| 控制項 | 值 | 比對什麼 |
|---|---|---|
| 搜尋 | 自由文字 | GPU 型號、主機名稱或區域,不分大小寫的子字串比對 |
| GPU 系列 | 型錄中出現的系列,例如 Hopper、Ampere、Ada、Blackwell | 由型號名稱推導出的架構系列 |
| 區域 | 型錄中出現的國家 | 機器所在的國家 |
| GPU 數量 | 1×、2×、4×、8× | 剛好含有該數量 GPU 的切片 |
| 每張卡最低 VRAM | 24、32、48、80、141 GB+ | 每張卡 VRAM 達到或超過該值的報價 |
| 最高價格 | ≤ $0.5、$1、$2、$5、$15、$30 /hr | 切片價格等於或低於上限 |
GPU 數量、每張卡最低 VRAM 與 最高價格 藏在 更多篩選條件 按鈕後面,只要這三項其中之一有設定,該按鈕就會切換成填滿的樣式。
如果沒有任何項目符合,你會看到空狀態,而不是部分清單。先放寬價格上限,或清掉系列與區域篩選 —— 這三項砍掉的最多。
其中大多數在 GET /v1/offers 上都有對應項目 —— num_gpus、min_vram_gb、region 以及每小時價格上限 —— 但有三處差異值得知道。API 是用完全相符的 gpu_model 篩選,而主控台的系列篩選是依架構把型號分組。API 的 region 接受區域代碼或國家代碼,而主控台的區域控制項列出的是國家。還有自由文字搜尋框沒有 API 對應項目;它是在瀏覽器中針對已載入的報價執行。請參閱報價。
排序
| 選項 | 順序 |
|---|---|
| 價格:低 → 高 | 最便宜的切片排前面。這是預設值 |
| 價格:高 → 低 | 最貴的切片排前面 |
| TFLOPS | 標示吞吐量最高的排前面 |
| VRAM | 每張卡 VRAM 最高的排前面 |
排序在篩選之後才套用,而且價格排序是依切片價格 —— 8× 切片不會因為每張 GPU 的單價低就算便宜。
顯示無法使用
篩選列最右端的 顯示無法使用 開關會把已租用的報價帶進格狀清單。它們會以變暗的樣式呈現、帶有 已租用 徽章,而且無法選取;更多詳細資料 仍然可以開啟。
這就是 GET /v1/offers 上的 include_rented 旗標,預設為 false。被機群完全下架的報價,無論如何都不會回傳。
當你想知道你要找的硬體究竟存不存在時,就把它打開。開關關閉時是空的格狀清單、打開後卻是滿的,代表機器確實存在但都在忙,這跟篩選條件下得太緊是完全不同的問題。
型錄更新橫幅
當主控台的型錄重新整理落後時,篩選條件上方會出現橫幅寫著 「型錄上次更新於 N 分鐘前 —— 列表可能已過期。」;在第一次重新整理完成之前,則會寫 「型錄尚未同步 —— 列表可能已過期。」。
主控台每 30 秒重新檢查一次型錄的新鮮度,當最後一次成功重新整理超過五分鐘就會顯示橫幅。重新整理失敗時會保留先前的列表,而不是把頁面清空,這就是為什麼你看到的是帶警告的過期市集,而不是空白的市集。
橫幅出現期間,請把價格與可用性視為近似值。部署仍然可以進行;報價會在那一刻由伺服器端再檢查一次。
從報價到部署
有三條路徑通往同一個地方:
- 選取一張卡片,然後按底部工具列的 繼續。
- 開啟 更多詳細資料,然後按 租用這張 GPU。
- 從範本的 啟動 按鈕出發,它會把你帶進市集並一併帶著那個範本,接著走上面兩條路徑之一。
可用性是在你按下部署時決定的,不是在你選取卡片時。如果有人先一步拿到同一台機器,部署會以「報價無法使用」的錯誤失敗,然後你會回到這裡。請參閱部署執行個體。