IBM和NVIDIA新款人工智能服務器又把英特爾秒了
另外,Tesla P100的半精度浮點運算性能達到了每秒21萬億次 —— 比插入現代PCI-E插槽的GPU高出大約14%,這樣的處理能力對訓練深度神經網絡的重要性不言而喻。
本文引用地址:http://www.biyoush.com/article/201609/296831.htmIBM還做了個縱向對比,和老款Power S822LC服務器的Tesla K80 GPU加速器相比,新款服務器的加速能力提升了兩倍多。
預計明年問世的IBM Power9會延續(xù)對CPU+GPU組優(yōu)化。
為何是“CPU+GPU”?
眾所周知,在人工智能人工智能和深度學習等計算任務上,CPU早已不堪重任。因此,不少企業(yè)紛紛推出人工智能專用芯片概念,例如谷歌的TPU(Tensor Processing Unit);還有業(yè)內人士力挺FPGA更適合深度學習的算法,這也是英特爾以高價收購Altera的主要原因。
不過,上述兩個替代CPU的方案都還未成熟,目前大多數企業(yè)采用的依然是“CPU+GPU”的組合,或者稱為異構服務器。通常來說,在這種異構模式下,應用程序的串行部分在CPU上運行,而GPU作為協處理器,主要負責計算任務繁重的部分。
因為和CPU相比,GPU的優(yōu)勢非常明顯:
1.CPU主要為串行指令而優(yōu)化,而GPU則是為大規(guī)模的并行運算而優(yōu)化。所以,后者在大規(guī)模并行運算的速度更快;
2.同等面積下,GPU上擁有更多的運算單元(整數、浮點的乘加單元,特殊運算單元等等);
3.一般情況下,GPU擁有更大帶寬的 Memory,因此在大吞吐量的應用中也會有很好的性能。
4.GPU對能源的需求遠遠低于CPU。
當然,這并不代表人工智能服務器對CPU沒有需求,CPU依然是計算任務不可或缺的一部分,在深度學習算法處理任務中還需要高性能的CPU來執(zhí)行指令并且和GPU進行數據傳輸,同時發(fā)揮CPU的通用性和GPU的復雜任務處理能力,才能達到最好的效果,通俗點說就是實現CPU和GPU的協同計算。
雖然NVIDIA和Intel等芯片商正在為GPU和CPU孰強孰弱陷入了口水戰(zhàn),但實際上這些企業(yè)已經開始在異構計算上加大了研發(fā)力度,至少在近期內,CPU和GPU的結合將繼續(xù)成為人工智能領域最有效的方案。
評論