跳至主要內容

瀏覽市集

在側邊欄開啟 租用 GPU。該頁面上的每張卡片都是一項報價:一台實體機器上可租用的切片,內含 1、2、4 或 8 張 GPU。顯示的價格是整個切片的價格,不是單張 GPU 的價格,而且是由 Superheat 訂價,不是機器擁有者。一台主機可以列出多種切片大小,所以兩張卡片有可能位於同一台實體機器上。

選擇卡片是兩個步驟中的第一步;第二步是部署

卡片顯示什麼

欄位意義
GPU 型號切片中的顯示卡,下方標示 NVIDIA · ×N
×N切片包含幾張 GPU。價格涵蓋全部
價格整個切片的每小時費率,執行個體執行期間按秒計費
每張卡 VRAM單張 GPU 上的記憶體。乘以 N 就是這個切片給你的總量
TFLOPS報價標示的吞吐量數字,也是 TFLOPS 排序所依據的數字
儲存主機機器上的硬碟總量。這是你在部署時可以要求的硬碟上限
位置國旗加上區域代碼,例如 US-CAFI-HEL
可靠度主機的可靠度分數,以百分比表示。盾牌圖示代表已驗證的主機
已租用已被租用的報價上會有的徽章。只有開啟 顯示無法使用 時才看得到

點一下卡片會選取它,並在頁面底部升起一列工具列,顯示型號、價格、VRAM、硬碟與位置,以及一個 繼續 按鈕。再點同一張卡片一次就會取消選取。

更多詳細資料

任一張卡片上的 更多詳細資料 會開啟一個側邊面板,顯示完整的機器規格。這個面板在已租用的報價上一樣能用,所以你可以檢視目前拿不到的硬體。

欄位意義
總 VRAM每張卡 VRAM × GPU 數量
Max CUDA這台機器支援的最高 CUDA 版本。部署頁面會拿範本的 CUDA 下限來對照它
PCIe世代與通道寬度,例如 4.0 ×16
CPU、CPU 核心數、RAM主機機器的 CPU 型號、核心數與 RAM
硬碟主機硬碟容量與類型(NVMESSDHDD
網路標示的上行與下行頻寬
主機機器的主機名稱
儲存費率硬碟每 GB 每月的費用,由每小時費率換算而來
最長租用時間只有在報價有宣告時才顯示 —— 機器標示的最長租用時間

面板的按鈕寫著 租用這張 GPU,會直接帶你到部署頁面。在已租用的報價上,它會寫 目前已租用 並呈停用狀態。

篩選條件

篩選列位於格狀清單上方。篩選條件會疊加 —— 一項報價必須全部滿足 —— 而且目前的篩選狀態會存在頁面網址中,所以篩選後的檢視可以加入書籤或傳給團隊成員。

控制項比對什麼
搜尋自由文字GPU 型號、主機名稱或區域,不分大小寫的子字串比對
GPU 系列型錄中出現的系列,例如 Hopper、Ampere、Ada、Blackwell由型號名稱推導出的架構系列
區域型錄中出現的國家機器所在的國家
GPU 數量1×、2×、4×、8×剛好含有該數量 GPU 的切片
每張卡最低 VRAM24、32、48、80、141 GB+每張卡 VRAM 達到或超過該值的報價
最高價格≤ $0.5、$1、$2、$5、$15、$30 /hr切片價格等於或低於上限

GPU 數量每張卡最低 VRAM最高價格 藏在 更多篩選條件 按鈕後面,只要這三項其中之一有設定,該按鈕就會切換成填滿的樣式。

如果沒有任何項目符合,你會看到空狀態,而不是部分清單。先放寬價格上限,或清掉系列與區域篩選 —— 這三項砍掉的最多。

其中大多數在 GET /v1/offers 上都有對應項目 —— num_gpusmin_vram_gbregion 以及每小時價格上限 —— 但有三處差異值得知道。API 是用完全相符的 gpu_model 篩選,而主控台的系列篩選是依架構把型號分組。API 的 region 接受區域代碼或國家代碼,而主控台的區域控制項列出的是國家。還有自由文字搜尋框沒有 API 對應項目;它是在瀏覽器中針對已載入的報價執行。請參閱報價

排序

選項順序
價格:低 → 高最便宜的切片排前面。這是預設值
價格:高 → 低最貴的切片排前面
TFLOPS標示吞吐量最高的排前面
VRAM每張卡 VRAM 最高的排前面

排序在篩選之後才套用,而且價格排序是依切片價格 —— 8× 切片不會因為每張 GPU 的單價低就算便宜。

顯示無法使用

篩選列最右端的 顯示無法使用 開關會把已租用的報價帶進格狀清單。它們會以變暗的樣式呈現、帶有 已租用 徽章,而且無法選取;更多詳細資料 仍然可以開啟。

這就是 GET /v1/offers 上的 include_rented 旗標,預設為 false。被機群完全下架的報價,無論如何都不會回傳。

當你想知道你要找的硬體究竟存不存在時,就把它打開。開關關閉時是空的格狀清單、打開後卻是滿的,代表機器確實存在但都在忙,這跟篩選條件下得太緊是完全不同的問題。

型錄更新橫幅

當主控台的型錄重新整理落後時,篩選條件上方會出現橫幅寫著 「型錄上次更新於 N 分鐘前 —— 列表可能已過期。」;在第一次重新整理完成之前,則會寫 「型錄尚未同步 —— 列表可能已過期。」

主控台每 30 秒重新檢查一次型錄的新鮮度,當最後一次成功重新整理超過五分鐘就會顯示橫幅。重新整理失敗時會保留先前的列表,而不是把頁面清空,這就是為什麼你看到的是帶警告的過期市集,而不是空白的市集。

橫幅出現期間,請把價格與可用性視為近似值。部署仍然可以進行;報價會在那一刻由伺服器端再檢查一次。

從報價到部署

有三條路徑通往同一個地方:

  • 選取一張卡片,然後按底部工具列的 繼續
  • 開啟 更多詳細資料,然後按 租用這張 GPU
  • 從範本的 啟動 按鈕出發,它會把你帶進市集並一併帶著那個範本,接著走上面兩條路徑之一。
報價可能在你瀏覽與部署之間被別人拿走

可用性是在你按下部署時決定的,不是在你選取卡片時。如果有人先一步拿到同一台機器,部署會以「報價無法使用」的錯誤失敗,然後你會回到這裡。請參閱部署執行個體

相關內容