紅帽與Run:ai為混合云優(yōu)化人工智能工作負(fù)載
全球領(lǐng)先的開源解決方案提供商紅帽公司與人工智能(AI)優(yōu)化和編排領(lǐng)域的領(lǐng)導(dǎo)者Run:ai今日宣布展開合作,將Run:ai的資源優(yōu)化功能集成到紅帽OpenShift AI中。此合作通過簡(jiǎn)化AI操作和優(yōu)化底層基礎(chǔ)設(shè)施,使企業(yè)能夠充分利用AI資源。在一個(gè)可靠的MLOps平臺(tái)上,企業(yè)可以高效地構(gòu)建、調(diào)整、部署和監(jiān)控AI應(yīng)用和模型,從而最大化人力和硬件資源的效用。
本文引用地址:http://www.biyoush.com/article/202405/458818.htmGPU是推動(dòng)AI工作流程的核心計(jì)算引擎,支持模型訓(xùn)練、推理和實(shí)驗(yàn)等。鑒于這些專用處理器的高昂成本,特別是在分布式訓(xùn)練和推理場(chǎng)景中。紅帽與Run:ai正聯(lián)合提供解決方案,通過在紅帽O(jiān)penShift AI上部署經(jīng)認(rèn)證的Run:ai OpenShift Operator,滿足GPU資源優(yōu)化的關(guān)鍵需求,幫助用戶在任何場(chǎng)景下擴(kuò)展和優(yōu)化其AI工作負(fù)載。Run:ai的云原生計(jì)算編排平臺(tái)在紅帽O(jiān)penShift AI上提供的幫助包括:
● 利用專用工作負(fù)載調(diào)度程序,解決AI工作負(fù)載的GPU調(diào)度問題,輕松確定關(guān)鍵任務(wù)工作負(fù)載的優(yōu)先級(jí),并確保分配足夠資源支持這些工作負(fù)載。
● 通過部分GPU使用和監(jiān)控功能,根據(jù)設(shè)定的優(yōu)先級(jí)和策略動(dòng)態(tài)分配資源,提升基礎(chǔ)設(shè)施效率。
● 改善對(duì)共享GPU基礎(chǔ)設(shè)施的控制和可見性,為IT、數(shù)據(jù)科學(xué)和應(yīng)用開發(fā)團(tuán)隊(duì)提供更便捷的訪問和資源分配方式。
Run:ai的認(rèn)證OpenShift Operator現(xiàn)已可用。展望未來,紅帽和Run:ai計(jì)劃繼續(xù)加強(qiáng)合作,在紅帽O(jiān)penShift AI上為Run:ai引入更多集成功能。此舉旨在提供更無縫的客戶體驗(yàn),并進(jìn)一步加速AI模型向生產(chǎn)工作流的轉(zhuǎn)移,實(shí)現(xiàn)更高的一致性。
支持證言
Steven Huels,紅帽副總裁兼AI事業(yè)部總經(jīng)理
“隨著AI采用率的提高和對(duì)GPU需求的增加,企業(yè)需優(yōu)化其AI平臺(tái),以充分利用運(yùn)營(yíng)和基礎(chǔ)設(shè)施,無論這些資源位于混合云的哪個(gè)部分。通過與Run:ai的合作,讓企業(yè)能夠在不犧牲AI/ML平臺(tái)的可靠性或?qū)氋F的GPU資源的情況下,在任何必需的地方最大限度地?cái)U(kuò)展AI工作負(fù)載?!?/p>
Omri Geller,Run:ai首席執(zhí)行官兼創(chuàng)始人
“我們很高興能與紅帽O(jiān)penShift AI合作,增強(qiáng)AI運(yùn)營(yíng)的能力和潛力。通過利用紅帽O(jiān)penShift的MLOps優(yōu)勢(shì)和Run:ai在AI基礎(chǔ)設(shè)施管理方面的專業(yè)知識(shí),我們正在為企業(yè)AI設(shè)立新標(biāo)準(zhǔn),提供無縫的可擴(kuò)展性和優(yōu)化的資源管理?!?/p>
評(píng)論