AmdMetal · AI 開發整機

DGX Spark 整機按日租用

GB10 Grace Blackwell,128GB 統一記憶體。

前往下單頁選擇 1–365 天租期;本頁供確認規格與使用限制。

一個租期,專用一台整機

租期內,AmdMetal 的 NVIDIA DGX Spark 由單一客戶使用。適用於本機大型語言模型推論、微調實驗、CUDA 開發及 AI 應用原型驗證,並非共用推論 API。

工作負載部署於整機的 NVIDIA DGX OS。程式碼、相依套件、容器與模型權重須自行準備;確認租期前,請先檢查程式架構、執行環境及資料匯出計畫。整機使用權不代表所有模型或軟體都能直接執行,專案所需元件仍須有 ARM64 相容版本。

設備銘牌

GB10 平台,硬體與系統規格固定

從處理器到網路皆依下列規格提供,AmdMetal DGX Spark 不提供硬體或系統選配。

超級晶片
NVIDIA GB10 Grace Blackwell
CPU
20 核心 Arm:10 × Cortex-X925 + 10 × Cortex-A725
統一記憶體
128GB LPDDR5x,由 CPU 與 GPU 共用,並非獨立顯示記憶體
本機儲存空間
4TB NVMe,不可加裝硬碟
程式架構
ARM64
網路與 IP 位址
1 Gbps 不限流量,含 1 個固定 IPv4
作業系統
NVIDIA DGX OS,以 Ubuntu 24.04 為基礎,預先安裝 CUDA 與 NVIDIA AI 軟體堆疊
模型與管理介面
不預載模型;不含 BMC / IPMI

統一記憶體由 CPU 與 GPU 共用,系統及執行中的程序也會占用記憶體。模型能否執行,須一併考量權重大小、精度、上下文長度及框架開銷,不能只看權重檔案大小。

租期以整數天計算

費用以天數計算,範圍為 1–365 天。AmdMetal 依所選天數乘以固定單價計費,不提供租期折扣。

應付金額 = 天數 × 每日單價

租用 1 天

1 × $19.6

$19.6 應付金額

租用 7 天

7 × $19.6

$137.2 應付金額

租用 30 天

30 × $19.6

$588.0 應付金額

以上金額皆按天數乘算;30 天範例不代表月租方案。租用無須簽約;實際租期與應付金額請以 AmdMetal 下單頁為準。

先確認執行條件,再安排實驗

適合已有程式碼、資料與評估目標的單機專案。AmdMetal 提供整機環境,專案相依套件與模型部署由使用者自行處理。

本機模型推論

在本機載入權重,驗證推論流程、介面與業務整合。請先確認推論框架支援 ARM64,再評估記憶體用量。

LoRA 微調實驗

適用於驗證微調流程與訓練腳本。資料集、檢查點與實驗成果都應納入儲存空間規劃,並安排在到期前匯出。

CUDA 程式除錯

使用預先安裝的 CUDA 軟體堆疊進行開發,並確認建置工具與第三方相依套件支援 Arm 平台,不可直接沿用 x86 二進位檔。

AI 應用原型

將模型、服務程式碼與測試資料部署在同一台整機,驗證呼叫流程。實驗結果與應用資料須另行備份。

固定規格,不提供擴充

不提供調整頻寬、增加 IPv4、升級記憶體、加裝硬碟、更換作業系統、多機叢集或預載模型服務,也不提供月租。ARM64 環境無法執行 x86 程式或 Windows;仰賴這些環境的專案不適用本產品。

模型下載時間須納入專案準備

AmdMetal DGX Spark 不預載任何模型,須自行下載權重。1 Gbps 為網路規格,不代表所有下載來源都能持續達到此速度。

1 Gbps 下載時間參考

僅依 1 Gbps 連線估算的理論值
權重大小理論下載時間
40GB約 5.5 分鐘
100GB約 14 分鐘
140GB約 19 分鐘

實際下載時間會受下載來源、網路路徑、通訊協定開銷及寫入磁碟的過程影響。表列時間不含解壓縮、環境安裝、權重轉換或模型載入,也不代表該模型必定能在本機執行。

透過 SSH 管理,並於到期前匯出資料

交付後,AmdMetal 會透過控制台提供連線憑證;開發環境與實驗資料由使用者自行管理。

  1. 連線

    從控制台取得憑證

    登入控制台,在主機詳細資料中查看連線位址與登入憑證,再透過 SSH 連線至整機。本介紹頁不會顯示憑證。

  2. 協助處理

    強制重新啟動與重裝請提交工單

    設備不含 BMC / IPMI。如需強制重新啟動或重裝 NVIDIA DGX OS,請透過控制台提交工單,註明主機編號與處理需求。

  3. 到期

    資料清除前完成遷出

    租期到期後,主機內的資料將予以清除。請於到期前自行匯出程式碼、設定、模型檢查點及實驗結果,並確認匯出的檔案完整且可用。

下單前確認三項使用限制

AmdMetal 下單頁會要求逐項確認。請於付款前確認軟體架構、系統選擇與資料保存期限。

  1. ARM64 架構

    無法執行 x86 程式或 Windows。專案相依套件與容器映像檔須使用相容 ARM64 的版本。

  2. 僅提供 NVIDIA DGX OS

    系統以 Ubuntu 24.04 為基礎,包含 CUDA 與 NVIDIA AI 軟體堆疊,不提供其他作業系統選擇。

  3. 到期後清除資料

    須於租期結束前完成資料匯出,不能將整機內的工作目錄當作到期後的存檔。

依專案天數選擇租期

固定規格已列明,下一步請前往 AmdMetal 下單頁選擇 1–365 天租期、確認三項使用限制並核對應付金額。