從智能家居助手（想想 Alexa、Google 和 Siri）到在駕駛員離開車道時通知駕駛員的高級駕駛輔助系統(tǒng) （ADAS），世界都依靠邊緣 AI 為這些日益常見和重要的設(shè)備提供實(shí)時處理（圖 1）。

邊緣 AI 直接在設(shè)備內(nèi)使用人工智能，在數(shù)據(jù)源附近進(jìn)行計(jì)算，而不是在具有云計(jì)算的異地?cái)?shù)據(jù)中心進(jìn)行計(jì)算。邊緣 AI 提供更低的延遲、更快的處理速度、減少對持續(xù)互聯(lián)網(wǎng)連接的需求，并降低隱私問題。盡管如此，仍可能存在挑戰(zhàn)。

這項(xiàng)技術(shù)代表了數(shù)據(jù)處理方式的重大轉(zhuǎn)變。隨著對實(shí)時智能的需求增長，邊緣 AI 處于有利地位，可以繼續(xù)對工程師產(chǎn)生巨大影響。

邊緣 AI 最重要的價(jià)值是它可以為關(guān)鍵應(yīng)用程序提供的速度。與云/數(shù)據(jù)中心 AI 不同，邊緣 AI 不會通過網(wǎng)絡(luò)鏈接發(fā)送數(shù)據(jù)，而是希望獲得合理的響應(yīng)時間。相反，邊緣 AI 在本地計(jì)算（通常在實(shí)時作系統(tǒng)上），擅長提供及時響應(yīng)。對于 ADAS 等情況，工程師開發(fā)了算法，使車輛能夠處理來自車載攝像頭和傳感器的數(shù)據(jù)，從而允許對導(dǎo)航、障礙物檢測和安全功能進(jìn)行實(shí)時決策，而無需依賴云處理。

用于實(shí)時處理的邊緣 AI

許多實(shí)時活動推動了對邊緣 AI 的需求。智能家居助手、患者監(jiān)測和預(yù)測性維護(hù)等應(yīng)用是該技術(shù)對工程師產(chǎn)生影響的顯著用途。從快速響應(yīng)家庭問題到在本地分析生物識別數(shù)據(jù)的可穿戴健康設(shè)備，邊緣 AI 提供快速響應(yīng)，同時最大限度地減少隱私問題。

邊緣 AI

人工智能需要計(jì)算能力，但更高效的算法和專用硬件使其適用于邊緣節(jié)點(diǎn)。

很長一段時間以來，我們已經(jīng)看到邊緣 AI 在供應(yīng)鏈中表現(xiàn)良好，尤其是在倉儲和工廠方面。在過去十年中，運(yùn)輸行業(yè)的技術(shù)也取得了長足的發(fā)展，例如在云層等條件下導(dǎo)航的送貨無人機(jī)。

邊緣 AI 也為工程師做了很多偉大的事情，尤其是在醫(yī)療技術(shù)領(lǐng)域，這是一個關(guān)鍵的進(jìn)步領(lǐng)域。例如，開發(fā)起搏器和其他心臟設(shè)備的工程師可以為醫(yī)生配備尋找異常心律的工具，同時還可以主動對設(shè)備進(jìn)行編程，以指導(dǎo)何時尋求進(jìn)一步的醫(yī)療干預(yù)。Med-tech 將繼續(xù)增加對邊緣 AI 的使用并構(gòu)建更多功能。

如何生成邊緣 AI 模型

隨著日常生活中越來越多的系統(tǒng)集成了某種程度的機(jī)器學(xué)習(xí) （ML） 交互，了解這個世界對于工程師和開發(fā)人員規(guī)劃未來用戶交互變得至關(guān)重要。

邊緣 AI 的最大機(jī)會是 ML，它基于統(tǒng)計(jì)算法匹配模式。這些模式可能是感應(yīng)到有人在場，有人剛剛為智能家居助手說了“喚醒詞”（例如，Alexa 或“Hey Siri”），或者電機(jī)開始晃動。對于智能家居助手，喚醒詞是在邊緣運(yùn)行的模型，不需要將您的聲音發(fā)送到云端。它會喚醒設(shè)備并讓它知道是時候調(diào)度進(jìn)一步的命令了。

生成 ML 模型可以采用多種途徑，例如使用集成開發(fā)環(huán)境（如 TensorFlow 或 PyTorch）或使用軟件即服務(wù) （SaaS） 平臺（如 Edge Impulse）。構(gòu)建一個好的 ML 模型的大部分 “工作” 都用于創(chuàng)建一個有代表性的數(shù)據(jù)集并對其進(jìn)行很好的標(biāo)記。

目前，最流行的邊緣 AI ML 模型是監(jiān)督模型。這是一種基于標(biāo)記和標(biāo)記樣本數(shù)據(jù)的訓(xùn)練，其中輸出是一個已知值，可以檢查其正確性，就像讓導(dǎo)師檢查并在此過程中進(jìn)行正確的工作一樣。此訓(xùn)練通常用于分類工作或數(shù)據(jù)回歸等應(yīng)用程序。監(jiān)督式訓(xùn)練可能很有用且高度準(zhǔn)確，但它在很大程度上取決于標(biāo)記的數(shù)據(jù)集，并且可能無法處理新的輸入。

運(yùn)行邊緣 AI 工作負(fù)載所需的硬件

DigiKey 等公司完全有能力協(xié)助邊緣 AI 的實(shí)施，因?yàn)樗鼈兺ǔＴ谖⒖刂破鳌PGA 和單板計(jì)算機(jī) （SBC） 上運(yùn)行。DigiKey 與頂級供應(yīng)商合作，提供在邊緣運(yùn)行 ML 模型的幾代硬件;例如，NXP 的 MCX-N 系列和 STMicroelectronics 的 STM32MP25 系列。

在過去幾年中，來自創(chuàng)客社區(qū)的開發(fā)板在運(yùn)行邊緣 AI 方面廣受歡迎，包括 SparkFun 的邊緣開發(fā)板 Apollo3 Blue、Adafruit 的 EdgeBadge、Arduino 的 Nano 33 BLE Sense Rev 2 和 Raspberry Pi 的 4 或 5。

神經(jīng)處理單元 （NPU） 在邊緣 AI 中越來越受歡迎。NPU 是專用 IC，旨在加速基于神經(jīng)網(wǎng)絡(luò)的 ML 和 AI 應(yīng)用程序的處理，基于具有許多互連層的人腦結(jié)構(gòu)，以及處理和傳遞信息的稱為神經(jīng)元的節(jié)點(diǎn)。新一代 NPU 正在創(chuàng)建具有專用數(shù)學(xué)處理的 NPU，包括 NXP 的 MCX N 系列和 ADI 的 MAX78000。

用于邊緣設(shè)備的 AI 加速器也在不斷涌現(xiàn)。不過，這個領(lǐng)域尚未確定，早期著名的公司包括 Google Coral 和 Hailo。

機(jī)器學(xué)習(xí)傳感器的重要性

帶有 ML 模型的高速相機(jī)在供應(yīng)鏈中已經(jīng)運(yùn)行了很長一段時間。它們已被用于決定在倉庫內(nèi)將產(chǎn)品發(fā)送到何處或在生產(chǎn)線中查找有缺陷的產(chǎn)品。供應(yīng)商現(xiàn)在正在創(chuàng)建低成本的 AI 視覺模塊，這些模塊可以運(yùn)行 ML 模塊來識別物體或人。

盡管運(yùn)行 ML 模型需要嵌入式系統(tǒng)，但更多產(chǎn)品將繼續(xù)作為支持 AI 的電子元件發(fā)布。這包括支持 AI 的傳感器，也稱為 ML 傳感器。雖然向大多數(shù)傳感器添加 ML 模型不會提高它們在應(yīng)用程序中的效率，但 ML 訓(xùn)練可以使幾種類型的傳感器以更高效的方式執(zhí)行：

• 相機(jī)傳感器，其中可以開發(fā) ML 模型來跟蹤幀中的物體和人員。

• IMU、加速度計(jì)和運(yùn)動傳感器，用于檢測活動概況。

許多 AI 傳感器都預(yù)裝了隨時可以運(yùn)行的 ML 模型。例如，用于感應(yīng)人員的 SparkFun 評估板經(jīng)過預(yù)編程，可通過 QWiiC I2C 接口檢測人臉并返回信息。一些 AI 傳感器，如 Arduino 的 Nicla Vision 或 Seeed Technology 的 OpenMV Cam H7，更加開放，需要經(jīng)過訓(xùn)練的 ML 模型來確定他們正在尋找什么（缺陷、對象等）。

使用神經(jīng)網(wǎng)絡(luò)提供計(jì)算算法，可以在物體和人員進(jìn)入攝像頭傳感器的視野時對其進(jìn)行檢測和跟蹤。

邊緣 AI 的未來

隨著許多行業(yè)的發(fā)展并越來越依賴技術(shù)進(jìn)行數(shù)據(jù)處理，邊緣 AI 將繼續(xù)得到更廣泛的采用。通過在設(shè)備級別實(shí)現(xiàn)更快、更安全的數(shù)據(jù)處理，邊緣 AI 的創(chuàng)新將是深遠(yuǎn)的。預(yù)計(jì)在不久的將來將擴(kuò)展的一些領(lǐng)域包括：

1. 用于計(jì)算神經(jīng)網(wǎng)絡(luò)算術(shù)的專用處理器邏輯。

2. 與云計(jì)算的巨大能耗相比，低功耗替代方案的進(jìn)步。

3. AI Vision 部件等更多集成/模塊選項(xiàng)將包括內(nèi)置傳感器和嵌入式硬件。

隨著 ML 訓(xùn)練方法、硬件和軟件的發(fā)展，邊緣 AI 處于有利地位，可以呈指數(shù)級增長并支持許多行業(yè)。