NVIDIA英偉達H800人工智能服務器為各類數據中心提供出色的性能、可擴展性和安全性。
加速計算的數量級飛躍
通過 NVIDIA英偉達H800人工智能服務器 GPU,在每個工作負載中實現出色性能、可擴展性和安全性。使用 NVIDIA® NVlink® Switch 系統,可連接多達 256 個 H800 來加速百億億級 (Exascale) 工作負載,另外可通過專用的 Transformer 引擎來處理萬億參數語言模型。與上一代產品相比,H800 的綜合技術創新可以將大型語言模型的速度提高 30 倍,從而提供業界**的對話式 AI。
準備好迎接企業 AI 了嗎?
企業采用 AI 現已成為主流,企業組織需要端到端的 AI 就緒型基礎架構,加快自身邁向新時代的步伐。
適用于主流服務器的 H800 隨附五年期 NVIDIA AI Enterprise 軟件套件訂閱(包括企業支持),能夠以強大的性能簡化 AI 的采用。這可確保組織能夠訪問構建 H800 加速的 AI 工作流所需的 AI 框架和工具,例如 AI 聊天機器人、推薦引擎和視覺 AI 等。
NVIDIA英偉達H800人工智能服務器GPU算力租賃配置:
|
項目 |
標準配置 |
|
框架 |
8U 機架式服務器 |
|
處理器 |
2顆第4代/第5代至強系列最高 64 核/3.9GHz/320MB緩存 |
|
內存 |
最大容量 4TB |
|
GPU |
NVIDIA HGX H800 GPU模組 |
|
系統硬盤 |
M.2 NVMe PCIe接口 2TB SSD |
|
數據硬盤 |
2*10TB 企業級 SATA 硬盤 RAID 10 陣列配置 |
|
InfiniBand 網絡 |
ConnectX-7 400Gb/s |
|
Ethernet 網卡 |
OCP 網卡/雙電口/10G |
|
PICE 插槽 |
9 個 PCIe 5.0 擴展插槽 |
|
電源 |
6*3000W,2*2700W,AC220 輸入 |
|
風扇 |
10 個 54V 風扇模組 |
|
操作系統 |
Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi |
|
工作溫度 |
+5°~+35° |
|
其他接口 |
機箱后部:1 個 RJ45 管理接口,2 個 USB 3.0,1 個 VGA 機箱前部:2 個 USB 3.0,1 個 VGA |
|
整機凈重 |
120KG(以實際配置為準) |
NVIDIA H800 TENSOR CORE GPU 規格 (SXM4 和 PCIE 外形規格)
|
外形規格 |
H800 SXM4 |
H800 PCIE |
|
FP64 |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP64 Tensor Core |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP32 |
67 teraFLOPS |
51 teraFLOPS |
|
TF32 Tensor Core |
989 teraFLOPS* |
756teraFLOPS* |
|
BFLOAT16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP8 Tensor Core |
3958 teraFLOPS* |
3026 teraFLOPS* |
|
INT8 Tensor Core |
3958 TOPS* |
3026 TOPS* |
|
GPU 顯存 |
80GB |
80GB |
|
GPU 顯存帶寬 |
3.35TB/s |
2TB/s |
|
解碼器 |
7 NVDEC/7 JPEG |
7 NVDEC/7 JPEG |
|
最大熱設計功率 (TDP) |
高達 700 瓦(可配置) |
350 瓦(可配置) |
|
多實例 GPU |
最多 7 個 MIG @每個 10GB |
|
|
外形規格 |
SXM |
PCIe雙插槽風冷式 |
|
互聯技術 |
NVlink:600GB/s PCIe:128GB/s |
NVlink:600GB/s PCIe:128GB/s |
安全地加速從企業級到百億億次級規模的工作負載
實時深度學習推理
超大模型的 AI 推理性能提升高達 30 倍
HPC 應用的性能提升高達 7 倍
百億億次級高性能計算
加速數據分析
為企業提高資源利用率
內置機密計算
為大規模 AI 和高性能計算提供出色的性能
免責聲明:當前頁為 NVIDIA英偉達H800人工智能服務器GPU算力租賃產品信息展示頁,該頁所展示的 NVIDIA英偉達H800人工智能服務器GPU算力租賃產品信息及價格等相關信息均有企業自行發布與提供, NVIDIA英偉達H800人工智能服務器GPU算力租賃產品真實性、準確性、合法性由店鋪所有企業完全負責。世界工廠網對此不承擔任何保證責任,亦不涉及用戶間因交易而產生的法律關系及法律糾紛,糾紛由會員自行協商解決。
友情提醒:世界工廠網僅作為用戶尋找交易對象,就貨物和服務的交易進行協商,以及獲取各類與貿易相關的服務信息的渠道。為避免產生購買風險,建議您在購買相關產品前務必確認供應商資質及產品質量。過低的價格、夸張的描述、私人銀行賬戶等都有可能是虛假信息,請您謹慎對待,謹防欺詐,對于任何付款行為請您慎重抉擇。
投訴方式:fawu@gongchang.com是處理侵權投訴的專用郵箱,在您的合法權益受到侵害時,請將您真實身份信息及受到侵權的初步證據發送到該郵箱,我們會在5個工作日內給您答復,感謝您對世界工廠網的關注與支持!