NVIDIA英偉達H800人工智能服務(wù)器為各類數(shù)據(jù)中心提供*的性能、可擴展性和安全性。
加速計算的數(shù)量級飛躍
通過 NVIDIA英偉達H800人工智能服務(wù)器 GPU,在每個工作負載中實現(xiàn)*性能、可擴展性和安全性。使用 NVIDIA? NVLink? Switch 系統(tǒng),可連接多達 256 個 H800 來加速百億億級 (Exascale) 工作負載,另外可通過的 Transformer 引擎來處理萬億參數(shù)語言模型。與上一代產(chǎn)品相比,H800 的綜合技術(shù)創(chuàng)新可以將大型語言模型的速度提高 30 倍,從而提供業(yè)界*的對話式 AI。
準備好迎接企業(yè) AI 了嗎?
企業(yè)采用 AI 現(xiàn)已成為主流,企業(yè)組織需要端到端的 AI 就緒型基礎(chǔ)架構(gòu),加快自身邁向新時代的步伐。
適用于主流服務(wù)器的 H800 隨附五年期 NVIDIA AI Enterprise 軟件套件訂閱(包括企業(yè)支持),能夠以強大的性能簡化 AI 的采用。這可確保組織能夠訪問構(gòu)建 H800 加速的 AI 工作流所需的 AI 框架和工具,例如 AI 聊天機器人、引擎和視覺 AI 等。
NVIDIA英偉達H800人工智能服務(wù)器GPU算力租賃配置:
項目 | 標(biāo)準配置 |
框架 | 8U 機架式服務(wù)器 |
處理器 | 2顆第4代/第5代至強系列* 64 核/3.9GHz/320MB緩存 |
內(nèi)存 | *容量 4TB |
GPU | NVIDIA HGX H800 GPU模組 |
系統(tǒng)硬盤 | M.2 NVMe PCIe接口 2TB SSD |
數(shù)據(jù)硬盤 | 2*10TB 企業(yè)級 SATA 硬盤 RAID 10 陣列配置 |
InfiniBand 網(wǎng)絡(luò) | ConnectX-7 400Gb/s |
Ethernet 網(wǎng)卡 | OCP 網(wǎng)卡/雙電口/10G |
PICE 插槽 | 9 個 PCIe 5.0 擴展插槽 |
電源 | 6*3000W,2*2700W,AC220 輸入 |
風(fēng)扇 | 10 個 54V 風(fēng)扇模組 |
操作系統(tǒng) | Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi |
工作溫度 | +5°~+35° |
其他接口 | 機箱后部:1 個 RJ45 管理接口,2 個 USB 3.0,1 個 VGA 機箱前部:2 個 USB 3.0,1 個 VGA |
整機凈重 | 120KG(以實際配置為準) |
NVIDIA H800 TENSOR CORE GPU 規(guī)格 (SXM4 和 PCIE 外形規(guī)格)
外形規(guī)格 | H800 SXM4 | H800 PCIE |
FP64 | 1 teraFLOPS | 0.8 teraFLOPS |
FP64 Tensor Core | 1 teraFLOPS | 0.8 teraFLOPS |
FP32 | 67 teraFLOPS | 51 teraFLOPS |
TF32 Tensor Core | 989 teraFLOPS* | 756teraFLOPS* |
BFLOAT16 Tensor Core | 1979 teraFLOPS* | 1,513 teraFLOPS* |
FP16 Tensor Core | 1979 teraFLOPS* | 1,513 teraFLOPS* |
FP8 Tensor Core | 3958 teraFLOPS* | 3026 teraFLOPS* |
INT8 Tensor Core | 3958 TOPS* | 3026 TOPS* |
GPU 顯存 | 80GB | 80GB |
GPU 顯存帶寬 | 3.35TB/s | 2TB/s |
解碼器 | 7 NVDEC/7 JPEG | 7 NVDEC/7 JPEG |
*熱設(shè)計功率 (TDP) | 高達 700 瓦(可配置) | 350 瓦(可配置) |
多實例 GPU | *多 7 個 MIG @每個 10GB | |
外形規(guī)格 | SXM | PCIe雙插槽風(fēng)冷式 |
互聯(lián)技術(shù) | NVLink:600GB/s PCIe:128GB/s | NVLink:600GB/s PCIe:128GB/s |
安全地加速從企業(yè)級到百億億次級規(guī)模的工作負載
實時深度學(xué)推理
大模型的 AI 推理性能提升高達 30 倍
HPC 應(yīng)用的性能提升高達 7 倍
百億億次級高性能計算
加速數(shù)據(jù)分析
為企業(yè)提高資源利用率
內(nèi)置機密計算
為大規(guī)模 AI 和高性能計算提供*的性能
其他推薦產(chǎn)品
首頁| 關(guān)于我們| 聯(lián)系我們| 友情鏈接| 廣告服務(wù)| 會員服務(wù)| 付款方式| 意見反饋| 法律聲明| 服務(wù)條款
NVIDIA英偉達H800人工智能服務(wù)器GPU為各類數(shù)據(jù)中心提供*的性能、可擴展性和安全性。