一文了解邊緣計(jì)算與云計(jì)算
但在全球各地實(shí)時運(yùn)行的AI應(yīng)用可能需要巨大的本地處理能力,而且往往是在遠(yuǎn)離中央云服務(wù)器的偏遠(yuǎn)地區(qū)。由于低時延或數(shù)據(jù)駐留要求,一些工作負(fù)載需要保留在本地或特定地點(diǎn)。
這就是為什么許多企業(yè)使用邊緣計(jì)算部署AI應(yīng)用,邊緣計(jì)算能夠在產(chǎn)生數(shù)據(jù)的地點(diǎn)處理數(shù)據(jù),在本地邊緣設(shè)備中處理和存儲數(shù)據(jù),而不是在遙遠(yuǎn)的中央數(shù)據(jù)存儲庫中進(jìn)行云處理。因此,此類設(shè)備無需聯(lián)網(wǎng)就能作為一個獨(dú)立的網(wǎng)絡(luò)節(jié)點(diǎn)運(yùn)行。
云和邊緣計(jì)算有許多優(yōu)點(diǎn)和用例,并且可以一起使用。
什么是云計(jì)算
云計(jì)算有許多優(yōu)點(diǎn)?!豆鹕虡I(yè)評論》中的“云轉(zhuǎn)型狀況”報(bào)告,83%的受訪者表示,云對企業(yè)機(jī)構(gòu)的未來戰(zhàn)略和增長極其重要。
云計(jì)算必定會日益普及。企業(yè)采用云基礎(chǔ)設(shè)施并將繼續(xù)這樣做的原因包括:
更低的前期成本:省去了購買硬件、軟件、IT管理以及24小時供電和冷卻的資本支出。云計(jì)算使企業(yè)機(jī)構(gòu)能夠迅速將應(yīng)用推向市場并降低進(jìn)入市場的財(cái)務(wù)門檻。
靈活的定價(jià):企業(yè)只需為所使用的計(jì)算資源付費(fèi),因此可以更好地控制成本,減少意外情況。
無限的按需計(jì)算:云服務(wù)能夠通過自動配置和刪除資源來即時應(yīng)對和適應(yīng)不斷變化的需求,從而降低成本,提高企業(yè)機(jī)構(gòu)的整體效率。
簡化的IT管理:云供應(yīng)商為其客戶提供IT管理專家服務(wù),使員工能夠?qū)W⒂谄髽I(yè)的核心需求。
易于更新:只需點(diǎn)擊一次就可以獲得最新的硬件、軟件和服務(wù)。
穩(wěn)定可靠:由于可以在云供應(yīng)商網(wǎng)絡(luò)上的多個冗余站點(diǎn)建立數(shù)據(jù)鏡像,因此能夠以更低的成本輕松地實(shí)現(xiàn)備份、災(zāi)難恢復(fù)和業(yè)務(wù)連續(xù)性。
節(jié)省時間:企業(yè)在配置私有服務(wù)器和網(wǎng)絡(luò)時會浪費(fèi)時間。有了按需提供的云基礎(chǔ)設(shè)施,企業(yè)能夠在很短的時間內(nèi)部署應(yīng)用并更快進(jìn)入市場。
什么是邊緣計(jì)算
通過在網(wǎng)絡(luò)邊緣處理數(shù)據(jù),邊緣計(jì)算減少了大量數(shù)據(jù)在服務(wù)器、云和設(shè)備或邊緣位置之間傳輸?shù)男枨?。這對于數(shù)據(jù)科學(xué)和AI等現(xiàn)代化應(yīng)用尤為重要。
邊緣計(jì)算的優(yōu)點(diǎn)
Gartner預(yù)測:“在生產(chǎn)中部署邊緣用例的企業(yè)數(shù)量將從2019年的約5%增長至2024年的約40%?!?strong style="margin: 0px; padding: 0px; outline: 0px; max-width: 100%; box-sizing: border-box !important; overflow-wrap: break-word !important;">許多高性能計(jì)算應(yīng)用已經(jīng)成為現(xiàn)代生活的支柱,例如深度學(xué)習(xí)和推理、數(shù)據(jù)處理和分析、模擬以及視頻流等。隨著企業(yè)逐漸意識到這些應(yīng)用由邊緣計(jì)算驅(qū)動,生產(chǎn)中的邊緣用例數(shù)量也將會增加。
減少時延:邊緣數(shù)據(jù)處理避免或減少了數(shù)據(jù)的傳輸,因此可以更快洞悉具有低時延要求的復(fù)雜AI模型用例,例如全自動駕駛汽車和增強(qiáng)現(xiàn)實(shí)等。
降低成本:與云計(jì)算相比,使用局域網(wǎng)進(jìn)行數(shù)據(jù)處理可以讓企業(yè)以更低的成本獲得更高的帶寬和存儲。此外,由于在邊緣進(jìn)行處理,因此需要發(fā)送到云或數(shù)據(jù)中心進(jìn)行進(jìn)一步處理的數(shù)據(jù)變得更少,這減少了需要傳輸?shù)臄?shù)據(jù)量,同時也降低了成本。
模型精度:AI依賴高精度模型,尤其是對于需要實(shí)時響應(yīng)的邊緣用例。當(dāng)網(wǎng)絡(luò)帶寬過低時,一般會通過降低輸入模型的數(shù)據(jù)大小來緩解。這會導(dǎo)致圖像尺寸減少、視頻跳幀和音頻采樣率降低。當(dāng)部署在邊緣時,數(shù)據(jù)反饋回路可提高AI模型的精度,并且可以同時運(yùn)行多個模型。
更廣泛的覆蓋范圍:互聯(lián)網(wǎng)接入是傳統(tǒng)云計(jì)算的必備條件。但邊緣計(jì)算可以在本地處理數(shù)據(jù)并且無需連接網(wǎng)絡(luò),這將計(jì)算范圍擴(kuò)大到了以前無法接入或遠(yuǎn)程的位置。
數(shù)據(jù)主權(quán):當(dāng)數(shù)據(jù)在采集地點(diǎn)得到處理時,企業(yè)機(jī)構(gòu)就可以通過邊緣計(jì)算將所有敏感數(shù)據(jù)和計(jì)算保留在局域網(wǎng)和公司防火墻內(nèi)。這能降低云端遭受網(wǎng)絡(luò)安全攻擊的風(fēng)險(xiǎn),并使企業(yè)能夠更好地遵守嚴(yán)格而不斷變化的數(shù)據(jù)法律。
云計(jì)算在邊緣AI中扮演什么角色
云和邊緣容器的主要區(qū)別在于位置。邊緣容器位于網(wǎng)絡(luò)的邊緣,更接近數(shù)據(jù)源,而云容器則在數(shù)據(jù)中心運(yùn)行。
已實(shí)施容器化云解決方案的企業(yè)機(jī)構(gòu)可以十分輕松地將它們部署在邊緣。
企業(yè)機(jī)構(gòu)一般會使用云原生技術(shù)來管理他們的邊緣AI數(shù)據(jù)中心。這是因?yàn)檫吘堿I數(shù)據(jù)中心的服務(wù)器常常分布在成千上萬個地點(diǎn),而且這些地點(diǎn)無法既沒有物理安全保障也沒有受過培訓(xùn)的人員。因此邊緣AI服務(wù)器必須是安全、有彈性并且易于大規(guī)模管理的。
何時使用邊緣計(jì)算和云計(jì)算?
云計(jì)算 | 非時延敏感型數(shù)據(jù)處理 |
可靠的網(wǎng)絡(luò)連接 | |
動態(tài)工作負(fù)載 | |
存儲在云端的數(shù)據(jù) |
邊緣計(jì)算 | 實(shí)時數(shù)據(jù)處理 |
網(wǎng)絡(luò)連接受限或無網(wǎng)絡(luò)連接的遠(yuǎn)程地點(diǎn) | |
大型數(shù)據(jù)集的成本太高,無法發(fā)送到云 | |
高度敏感的數(shù)據(jù)和嚴(yán)格的數(shù)據(jù)法律 |
兩全其美的選擇:混合云架構(gòu)
不同的企業(yè)機(jī)構(gòu)所采用的混合云解決方案也有所不同,例如在云端訓(xùn)練+在邊緣部署、在數(shù)據(jù)中心訓(xùn)練+在邊緣使用云管理工具、在邊緣訓(xùn)練+將模型集中到云端進(jìn)行聯(lián)合學(xué)習(xí)等。云與邊緣的結(jié)合可以創(chuàng)造無限的可能性。
來源:英偉達(dá)企業(yè)解決方案
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。