最新MLPerf基準(zhǔn)測試展示了英特爾至強處理器在AI推理和通用AI工作負載上的優(yōu)勢。

最新發(fā)布：近日，MLCommons發(fā)布了其行業(yè)標(biāo)準(zhǔn)AI性能基準(zhǔn)套件MLPerf推理v4.1的結(jié)果。英特爾提交了第五代英特爾^? 至強^? 可擴展處理器的六項MLPerf基準(zhǔn)測試結(jié)果，并首次提交了英特爾^? 至強^? 6處理器性能核（P核）的結(jié)果。與第五代至強處理器相比，英特爾至強6性能核處理器實現(xiàn)了AI性能的幾何平均值約1.9倍的提升。

“最新MLPerf結(jié)果表明，持續(xù)的投入和資源配置對于提高AI性能至關(guān)重要?？v觀MLPerf的測試結(jié)果，過去四年，英特爾至強處理器的AI性能提升了高達17倍之多。步入今年下半年，隨著至強6處理器具備廣泛可應(yīng)用性時，我們期待能與客戶、合作伙伴一道持續(xù)加速其出貨和市場應(yīng)用?！?/p>

-   Pallavi Mahajan，英特爾公司副總裁兼數(shù)據(jù)中心與人工智能軟件總經(jīng)理

重要意義：AI系統(tǒng)在跨多種場景的解決方案的順利部署，都離不開CPU這一關(guān)鍵的硬件。英特爾至強處理器為AI推理提供了出色的解決方案，包括經(jīng)典的機器學(xué)習(xí)和向量搜索嵌入。

在MLPerf推理v4.1中，英特爾提交了第五代英特爾至強處理器和至強6能效核處理器在ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J上的結(jié)果。與第五代英特爾至強相比，至強6在這六個基準(zhǔn)測試中展現(xiàn)出平均約1.9倍的AI推理性能提升。英特爾仍是唯一向MLPerf提交CPU結(jié)果的服務(wù)器處理器供應(yīng)商。

自四年前首次提交MLPerf結(jié)果以來，英特爾CPU的AI性能表現(xiàn)具備顯著提升。與2021年發(fā)布的第三代英特爾? 至強? 可擴展處理器相比，至強6在自然語言處理（BERT)上的性能提升高達17倍，在計算機視覺（ResNet50）工作負載上的性能提升高達15倍。英特爾將持續(xù)推進AI在CPU路線圖中的進展。例如，通過新的數(shù)據(jù)類型和效率提升，繼續(xù)推進英特爾? 高級矩陣擴展 (AMX) 創(chuàng)新。

支持AI客戶：最新的MLCommons基準(zhǔn)測試突顯了至強處理器正在為OEM廠商提供強大的CPU AI服務(wù)器解決方案。隨著AI計算需求的增長，且諸多客戶同時運行AI和企業(yè)工作負載，OEM廠商正在優(yōu)先考慮通過提交MLPerf的方式，彰顯其向客戶提供的、搭載至強處理器的系統(tǒng)具備高性能且針對AI工作負載而優(yōu)化。

英特爾在本輪MLPerf中支持了思科、戴爾科技、慧與、廣達和超微五個OEM合作伙伴分別提交的測試結(jié)果。每個客戶都提交了使用第五代至強可擴展處理器的MLPerf結(jié)果，展示了其系統(tǒng)對各種AI工作負載和部署的支持。

后續(xù)進展：英特爾將在9月的發(fā)布會上帶來更多英特爾至強6性能核處理器的信息。