NVIDIA英偉達H200人工智能服務器可大幅強化人工智慧和高效能運算工作負載。
NVIDIA H200 Tensor 核心 GPU 具備顛覆以往的效能和記憶體功能，可大幅強化生成式人工智慧和高效能運算工作負載。H200 是第一款搭載 HBM3e 的 GPU，更大更快的記憶體可加速生成式人工智慧和大型語言模型 (LLM)，同時強化高效能運算工作負載的科學運算。
NVIDIA英偉達H200人工智能服務器GPU算力租賃配置：
|
項目 |
標準配置 |
|
框架 |
8U 機架式服務器 |
|
處理器 |
2顆第4代/第5代至強系列最高 64 核/3.9GHz/320MB緩存 |
|
內存 |
最大容量 4TB |
|
GPU |
NVIDIA HGX H200 GPU模組 |
|
系統硬盤 |
M.2 NVMe PCIe接口 2TB SSD |
|
數據硬盤 |
2*10TB 企業級 SATA 硬盤 RAID 10 陣列配置 |
|
InfiniBand 網絡 |
ConnectX-7 400Gb/s |
|
Ethernet 網卡 |
OCP 網卡/雙電口/10G |
|
PICE 插槽 |
9 個 PCIe 5.0 擴展插槽 |
|
電源 |
6*3000W，2*2700W，AC220 輸入 |
|
風扇 |
10 個 54V 風扇模組 |
|
操作系統 |
Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi |
|
工作溫度 |
+5°~+35° |
|
其他接口 |
機箱后部：1 個 RJ45 管理接口，2 個 USB 3.0，1 個 VGA 機箱前部：2 個 USB 3.0，1 個 VGA |
|
整機凈重 |
120KG（以實際配置為準） |
高效能、最佳效率
NVIDIA H200 採用 NVIDIA Hopper 架構，是第一款能以每秒 4.8 TB 的速度提供 141 GB HBM3e 記憶體的 GPU，容量幾乎是 NVIDIA H100 Tensor 核心 GPU 的兩倍，記憶體頻寬則提升 1.4 倍。H200 更大、更快的記憶體能加速生成式人工智慧和 LLM，同時提升高效能運算工作負載的科學運算，而且能源效率更高、總體擁有成本更低。
透過高效能 LLM 推論取得洞察
在人工智慧不斷演進的狀況下，企業仰賴 LLM 來因應各種推論需求。為龐大的使用者大規模部署人工智慧推論加速器時，必須運用最低的整體擁有成本達到最高的吞吐量。
與 H100 GPU 相比，H200 在處理類似 Llama2 的 LLM 時，可將推論速度大幅提升到最高 2 倍。
大幅強化高效能運算
就高效能運算方面的用途而言，記憶體頻寬相當重要。因為這能加快資料傳輸速度，並減少複雜的處理瓶頸。對於需耗費大量記憶體的高效能運算應用程式，如模擬作業、科學研究和人工智慧，H200 的記憶體頻寬較高，可保障資料存取和操作時的效率，因此取得結果的速度與 CPU 相比提升達 110 倍。
降低能源使用量與整體擁有成本
隨著 H200 的推出，能源效率和整體擁有成本將達到全新境界。這項**技術可提供無與倫比的效能，並且與 H100 Tensor 核心 GPU 使用相同的功耗設定。人工智慧工廠和超級運算系統不僅速度更快也更環保，所具備的經濟優勢可推動人工智慧和科學界持續進步。
NVIDIA H200 Tensor 核心 GPU規格：
|
尺寸規格 |
H200 SXM¹ |
|
FP64 |
34 TFLOPS |
|
FP64 Tensor 核心 |
67 TFLOPS |
|
FP32 |
67 TFLOPS |
|
TF32 Tensor 核心 |
989 TFLOPS² |
|
BFLOAT16 Tensor 核心 |
1,979 TFLOPS² |
|
FP16 Tensor 核心 |
1,979 TFLOPS² |
|
FP8 Tensor 核心 |
3,958 TFLOPS² |
|
INT8 Tensor 核心 |
3,958 TFLOPS² |
|
GPU 記憶體 |
141GB |
|
GPU 記憶體頻寬 |
每秒 4.8 TB |
|
7 NVDEC |
|
|
最大熱設計功耗 (TDP) |
高達 700W (配置) |
|
多執行個體 GPU |
最多 7 個 MIGS，每個 16.5GB |
|
尺寸規格 |
SXM |
|
互連技術 |
NVlink：每秒 900 GB |
|
伺服器選項 |
搭載 4 或 8 個 GPU 的 NVIDIA HGX H100 合作夥伴與 NVIDIA 認證系統™ |
|
NVIDIA AI Enterprise |
包含 |
免責聲明：當前頁為 NVIDIA英偉達H200人工智能服務器GPU算力租賃產品信息展示頁，該頁所展示的 NVIDIA英偉達H200人工智能服務器GPU算力租賃產品信息及價格等相關信息均有企業自行發布與提供， NVIDIA英偉達H200人工智能服務器GPU算力租賃產品真實性、準確性、合法性由店鋪所有企業完全負責。世界工廠網對此不承擔任何保證責任，亦不涉及用戶間因交易而產生的法律關系及法律糾紛，糾紛由會員自行協商解決。
友情提醒：世界工廠網僅作為用戶尋找交易對象，就貨物和服務的交易進行協商，以及獲取各類與貿易相關的服務信息的渠道。為避免產生購買風險，建議您在購買相關產品前務必確認供應商資質及產品質量。過低的價格、夸張的描述、私人銀行賬戶等都有可能是虛假信息，請您謹慎對待，謹防欺詐，對于任何付款行為請您慎重抉擇。
投訴方式：fawu@gongchang.com是處理侵權投訴的專用郵箱，在您的合法權益受到侵害時，請將您真實身份信息及受到侵權的初步證據發送到該郵箱，我們會在5個工作日內給您答復，感謝您對世界工廠網的關注與支持！
(c)2008-2025 世界工廠網V3.6 All Rights Reserved 豫ICP備2024066506號
