如果應(yīng)用開(kāi)發(fā)人員和OEM廠商想要利用智能手機(jī)應(yīng)用處理器內(nèi)部的神經(jīng)引擎，他們需要一個(gè)與底層硬件掛鉤的軟件框架。“所有領(lǐng)先的移動(dòng)處理器設(shè)計(jì)公司(高通、聯(lián)發(fā)科、華為、蘋(píng)果)現(xiàn)在都提供神經(jīng)網(wǎng)絡(luò)SDK，”Demler觀察到。但他們都需要支持像Caffe和Torch這樣的流行培訓(xùn)框架。

　　對(duì)聯(lián)發(fā)科來(lái)說(shuō)，聯(lián)發(fā)科提供了被稱為NeuroPilot AI SDK的框架，該框架可以讓?xiě)?yīng)用開(kāi)發(fā)人員和OEM廠商“深入到硬件，看AI軟件如何在CPU、GPU和專用AI加速器上運(yùn)行”，Moynihan這樣表示。

　　與此同時(shí)，應(yīng)用開(kāi)發(fā)人員和OEM廠商也需要能夠“查找并查看Android網(wǎng)絡(luò)API(Android NNAPI)的內(nèi)容”，Moynihan補(bǔ)充道。Google為Android機(jī)器學(xué)習(xí)開(kāi)發(fā)了Android NNAPI和運(yùn)行時(shí)引擎。“聯(lián)發(fā)科的NeuroPilot SDK完全符合Android NNAPI，”Moynihan補(bǔ)充道。

　　Android Neural Networks API的系統(tǒng)架構(gòu)(來(lái)源：Google)

　　在部署能夠讓智能手機(jī)處理器運(yùn)行AI應(yīng)用的方法中，高通的方法似乎有些不同。

　　McGregor說(shuō)，高通的解決方案是不同的，因?yàn)?ldquo;他們已經(jīng)在芯片上使用了多種資源，包括Hexagon DSP、Adreno GPU和Kryo CPU內(nèi)核。”

　　然而他補(bǔ)充說(shuō)：“沒(méi)有可用的基準(zhǔn)，不可能確定哪種方法更好，但高通模型確實(shí)提供了更高的靈活性。”

　　AI軟件之戰(zhàn)

　　無(wú)論底層硬件如何，畢竟最關(guān)鍵的還是能夠購(gòu)在任何智能手機(jī)上體現(xiàn)AI體驗(yàn)差異化的軟件。

　　McGregor說(shuō)：“現(xiàn)在，這些應(yīng)用正瞄準(zhǔn)著手機(jī)上的常見(jiàn)功能，例如拍照和數(shù)字助理。但是，通常由第三方軟件開(kāi)發(fā)人員來(lái)開(kāi)發(fā)和訓(xùn)練用于手機(jī)上的這種模型。”

　　他指出，“在有限的情況下，有些模型或庫(kù)是可用的。高通圍繞圖像識(shí)別開(kāi)發(fā)了一些庫(kù)，三星主要圍繞拍照，我相信蘋(píng)果也正在開(kāi)發(fā)自己的模型。“

　　在其他情況下，這取決于應(yīng)用開(kāi)發(fā)人員，這是一個(gè)很大的限制，McGregor指出。“很多應(yīng)用開(kāi)發(fā)人員并不習(xí)慣于使用深度學(xué)習(xí)，也無(wú)法訪問(wèn)深度學(xué)習(xí)所需的大型數(shù)據(jù)中心，”他說(shuō)。

　　Linley Group的Demler在他最近的微處理器報(bào)告中也對(duì)人工智能軟件開(kāi)發(fā)提出了警告。 “處理器架構(gòu)的多樣性給Android應(yīng)用開(kāi)發(fā)人員帶來(lái)了挑戰(zhàn)，因?yàn)榧词乖谌狈Ｓ蒙疃葘W(xué)習(xí)加速器的設(shè)備上，這些應(yīng)用也必須能夠運(yùn)行。”而另一方面，iOS應(yīng)用開(kāi)發(fā)人員只需要支持Apple設(shè)計(jì)的一些處理器就可以了。

　　Tirias Research首席分析師Kevin Krewell也警告說(shuō)：“我看到的最大問(wèn)題是，每個(gè)芯片和IP供應(yīng)商都在以不同的方式做機(jī)器學(xué)習(xí)。ARM可能有最佳的機(jī)會(huì)，在一個(gè)IP上對(duì)多個(gè)廠商實(shí)施標(biāo)準(zhǔn)化。