騰訊云發(fā)布面向大模型訓(xùn)練的新一代HCC高性能計算集群,采用最新一代騰訊云星星海自研服務(wù)器,搭載了NVIDIA H800 Tensor Core GPU,并提供業(yè)界目前最高的3.2T超高互聯(lián)帶寬。
H800是NVIDIA為中國市場特供的加速卡替代型號,基于A100及H100設(shè)計,但將NVLink高速互連總線 SXM版的帶寬也只有3.35T,因此騰訊H800的3.2T帶寬下降并不明顯。騰訊云HCC集群支持分布式TensorFlow和PyTorch訓(xùn)練,可大幅提升模型訓(xùn)練速度。
在價格方面,騰訊沒有透露H800的具體采購價,但H100的價格約為25萬元,而A800特供版的價格相當于標準版A100的8成。因此,H800的價格可能會在20萬元或更高水平。
這一新一代HCC高性能計算集群的推出將有助于滿足大規(guī)模深度學(xué)習(xí)訓(xùn)練的需求,加速人工智能技術(shù)的發(fā)展。