隨著生成式AI的持續(xù)火爆，導(dǎo)致AI算力需求暴漲，這也使得高性能AI服務(wù)器及GPU計(jì)算卡供不應(yīng)求，價(jià)格也水漲船高。據(jù)證券時(shí)報(bào)援引某企業(yè)消息，其去年6月購(gòu)買的AI服務(wù)器不足一年價(jià)格漲了近20倍。

與此同時(shí)，高性能GPU價(jià)格也不斷上漲，例如A100 GPU市場(chǎng)單價(jià)已達(dá)15萬元，兩個(gè)月前為10萬元，漲幅50%，而A800價(jià)格漲幅相對(duì)更小，價(jià)格在9.5萬元左右，上月價(jià)格為8.9萬元左右。

IDC中國(guó)研究經(jīng)理索引表示，AI服務(wù)器價(jià)格這幾年一直變化較大，主要因其配置在不斷提升，同時(shí)其核心零部件GPU全球主要廠家英偉達(dá)、AMD在GPU方面的產(chǎn)能有限，市場(chǎng)GPU供應(yīng)持續(xù)緊缺，預(yù)計(jì)未來AI服務(wù)器價(jià)格仍將保持上漲趨勢(shì)。

此前消息顯示，NVIDIA當(dāng)前最強(qiáng)的加速卡是A100及H100，但受美國(guó)去年出臺(tái)的對(duì)華半導(dǎo)體出口限制政策影響，部分高性能GPU無法對(duì)華出口，為此NVIDIA推出了替代型號(hào)專供中國(guó)市場(chǎng)，A100的替代型號(hào)是A800，即在已有A100的基礎(chǔ)上將NVLink高速互連總線的帶寬從600GB/s降低到400GB/s，其他完全不變。

H100的替代型號(hào)是H800，具體的規(guī)格不確定，應(yīng)該是跟A800一樣降低帶寬，不過H100 SXM版的帶寬也就是3.35T，騰訊H800提到是3.2T，下降的并不明顯，除非是H100 NVLink版，后者的帶寬高達(dá)7.8T。