在“2019世界半導(dǎo)體大會(huì)”上，嘉楠科技創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官?gòu)堥s先生發(fā)表題為“讓‘AI’成為AI”的演講，分享了對(duì)邊緣側(cè)AI和當(dāng)下產(chǎn)業(yè)的思考，以及對(duì)嘉楠科技邊緣智能“芯”生態(tài)的構(gòu)想。

      在《電子產(chǎn)品世界》記者的專訪中，張楠賡表示，真正的AI不僅局限于圖像處理，而應(yīng)該兼具視聽等多種感官能力。去年9月，嘉楠推出了第一代AI新品勘智K210，這款基于自主研發(fā)的ASIC芯片集視聽能力于一身，已經(jīng)部署于無(wú)感門禁系統(tǒng)，功耗僅為300mw。最新的第二代芯片K510也預(yù)計(jì)在今年下半年問(wèn)世，芯片算力將提升5~10倍。

      K210和即將問(wèn)世的K510在某種程度上代表了嘉楠對(duì)于AI的思考。隨著AI產(chǎn)業(yè)逐漸走向成熟，AI芯片也逐漸從傳統(tǒng)的通用型芯片向半定制化、全定制化譜系發(fā)展。張楠賡認(rèn)為，邊緣側(cè)AI之所以沒(méi)有普及，因?yàn)锳I芯片在成本、能耗、算力、通用性等方面仍有不足。對(duì)于邊緣側(cè)而言，只有足夠輕量化、低功耗的AI芯片才能真正落地于邊緣側(cè)設(shè)備，賦予設(shè)備一定的自決策能力，從而真正讓社會(huì)享受人工智能時(shí)代的紅利。

      1  讓‘AI’成為AI

      從2016年AlphaGo一戰(zhàn)成名以來(lái)，沉寂了60年的AI搖身一變成為“未來(lái)”的代名詞。自動(dòng)駕駛、智慧城市、智能家居等一系列新概念點(diǎn)燃了人們對(duì)于AI的想象。但另一方面，實(shí)現(xiàn)真正的AI仍存挑戰(zhàn)。

      AI的通用性首當(dāng)其沖。當(dāng)下AI產(chǎn)業(yè)的突破仍處于單點(diǎn)突破期間。由于應(yīng)用背景明確，數(shù)據(jù)積累豐富，在翻譯、圖像檢測(cè)等一些特定的領(lǐng)域里，AI的能力已經(jīng)超越人類。但是，真正的AI通用芯片應(yīng)該具備視、聽、觸等多種能力，而不是單獨(dú)針對(duì)某個(gè)領(lǐng)域進(jìn)行優(yōu)化。張楠賡認(rèn)為，就像人一樣，各種傳感器同時(shí)起作用，這樣帶給用戶的體驗(yàn)才會(huì)更好。

      總體上，AI的算法有一定的共通性。盡管IoT（物聯(lián)網(wǎng)）領(lǐng)域是個(gè)性化和碎片化的，如果把這些碎片化的領(lǐng)域集合在一起，發(fā)揮通用芯片和算法的優(yōu)勢(shì)，這樣可以確保在有限投入下，產(chǎn)出更多AI應(yīng)用。

      而其中的關(guān)鍵，恰恰在于AI在邊緣側(cè)設(shè)備的落地。

      2  邊緣側(cè)AI需要輕量化和低功耗

      張楠賡認(rèn)為，目前的AI按應(yīng)用場(chǎng)景主要分為兩種，一種是訓(xùn)練，一種是推理。不同應(yīng)用場(chǎng)景對(duì)芯片的設(shè)計(jì)提出了不同要求。具體而言，算法訓(xùn)練由于對(duì)算力要求高，多部署于云端進(jìn)行。與之相反，數(shù)據(jù)推理則更多發(fā)生在邊緣側(cè)，因此芯片設(shè)計(jì)應(yīng)當(dāng)兼具低功耗和輕量化。

      為此，嘉楠科技于2018年9月6日發(fā)布了針對(duì)于邊緣側(cè)的AI芯片——堪智K210。芯片采用了先進(jìn)的28nm工藝，配置雙核64位CPU。其中，芯片的AI加速器由嘉楠自主研發(fā)設(shè)計(jì)，支持8通道高性能麥克風(fēng)陣列的音頻處理硬件，因此一顆芯片可以同時(shí)處理視頻和音頻，功耗僅為0.3 W。

 圖 堪智K210芯片（來(lái)源：堪智官網(wǎng)：https://kendryte.com/）

      3  為何采用RISC-V架構(gòu)

      與多數(shù)芯片不同，K210的CPU采用RISC-V的RV64。因?yàn)镽ISC-V有很多優(yōu)點(diǎn)，例如精簡(jiǎn)指令集開發(fā)，更重要的是RISC-V并非國(guó)家意志的產(chǎn)物，而是具備學(xué)術(shù)性質(zhì)的開源CPU，這在當(dāng)下的貿(mào)易環(huán)境中顯得尤為重要。

      同時(shí)，嘉楠也趕上了國(guó)內(nèi)正在興起RISC-V研究浪潮。K210芯片和開發(fā)板可以服務(wù)于高校和科研院所的研究和培訓(xùn)，而且嘉楠產(chǎn)品是市場(chǎng)上為數(shù)不多、可立即買到的RISC-V產(chǎn)品，在淘寶就可以很方便地采購(gòu)到。

      K210的優(yōu)勢(shì)是雙核64位RV CPU，是非常學(xué)術(shù)的RISC-V CPU，主頻400 MHz。相比Arm，RISC-V的RV64相當(dāng)于Arm的M7，比M7性能略高一些，但略遜于Arm A7。

      4  MCU領(lǐng)域最先進(jìn)的工藝水平

      最有效的降功耗方法是好的架構(gòu)。第一代K210芯片是內(nèi)置存儲(chǔ)，可以等同于單片機(jī)（MCU），還有專用的CNN裝置，這樣的架構(gòu)方式能夠大幅降低芯片功耗。在工藝上，K210采用了臺(tái)積電28nm制程，在單片機(jī)領(lǐng)域已經(jīng)達(dá)到最先進(jìn)水平。

      那么，嘉楠的礦機(jī)芯片已采用了臺(tái)積電的7 nm工藝，K210為何不采用7 nm？因?yàn)? nm價(jià)格高。嘉楠做芯片的原則完全是為了商用，不是為了PPT，也不是為了融資，因此要考慮費(fèi)效比。

      5  8通道的音頻功能

      K210的一大特色是，除了機(jī)器視覺(jué)能力外，還具備機(jī)器聽覺(jué)能力。芯片上帶有支持8通道高性能麥克風(fēng)陣列的音頻處理硬件，可以進(jìn)行硬件加速的實(shí)時(shí)聲源定向與波束形成，無(wú)需占用主CPU資源。一顆芯片就可以實(shí)現(xiàn)聲源定向、聲場(chǎng)成像、波束形成、語(yǔ)音喚醒、語(yǔ)音識(shí)別等機(jī)器聽覺(jué)功能。

      那么，音頻在此的目的是什么？因?yàn)閺恼軐W(xué)角度，AI應(yīng)該是多種感官融合的，因此K210除了有圖像，也做了音頻。用圖像的方法處理音頻是可以做的，把音頻轉(zhuǎn)成圖譜，用計(jì)算機(jī)的眼睛可以去“看”。

      另一個(gè)問(wèn)題是：為何要做8通道？8通道麥克風(fēng)的應(yīng)用場(chǎng)景是什么？主要是為了有更遠(yuǎn)的拾音距離，一般兩個(gè)麥克是三四米的拾音距離，4個(gè)麥克風(fēng)是5米，8個(gè)是6米左右。

      此外，8麥克風(fēng)還有一些特殊應(yīng)用，例如做林業(yè)病蟲害防治的害蟲識(shí)別，這是和百度、林業(yè)大學(xué)合作的一個(gè)項(xiàng)目，方法是把麥克風(fēng)扎到樹里，聽蟲子嗑樹的聲音。這需要多組麥克風(fēng)設(shè)備扎到樹里。嘉楠的方案是一個(gè)40 mm見(jiàn)方的模塊，做了防水的處理。利用圖像分類、檢測(cè)的方法，去“看”視野里是否有特定的害蟲。這種方案的應(yīng)用前景十分廣闊，因?yàn)橹袊?guó)的森林非常多，而且它可以推到農(nóng)田等更多應(yīng)用場(chǎng)景。

圖  堪智的應(yīng)用場(chǎng)景（來(lái)源：堪智官網(wǎng)）

      6  躍升：即將問(wèn)世的K510

      2016年嘉楠已開始有了做AI芯片的想法，做了一兩年時(shí)間，本來(lái)計(jì)劃2017年底推出，但因當(dāng)時(shí)算法有很大突破和進(jìn)展，又拖延到了2018年9月出爐，因此花了整整兩年時(shí)間。未來(lái)AI芯片的迭代速度加快，達(dá)到一年一代。

      第二代產(chǎn)品的型號(hào)為K510。那么，為何型號(hào)從K210一下跳到 K510？因?yàn)樾阅芴岣吆芏啵嵘?~10倍，有了外存（注：第一代沒(méi)有外部DRAM），并加入了對(duì)高清視頻的支持。

圖 K210的主要性能指標(biāo)（來(lái)源：堪智官網(wǎng)：https://kendryte.com/）

      7  未來(lái)：共建AIoT“芯”生態(tài)

      事實(shí)上，邊緣側(cè)AI芯片業(yè)態(tài)尚未成熟，各家廠商也都處于摸索路徑。但嘉楠對(duì)于芯片生態(tài)的商業(yè)想象卻很豐滿。這來(lái)自于嘉楠對(duì)自身研發(fā)實(shí)力的業(yè)務(wù)經(jīng)驗(yàn)的自信。為此，嘉楠做了很多嘗試，不僅局限于芯片，而是以芯片為落點(diǎn)，延伸至開發(fā)板、算法以及邊緣側(cè)的解決方案等。

      更重要的是，嘉楠向外與AI廠商建立合作關(guān)系，通過(guò)合作補(bǔ)齊算法和數(shù)據(jù)，同時(shí)也為自身的芯片尋找更多落地場(chǎng)景。同時(shí)，兼容性上，嘉楠也推出了第一代模型轉(zhuǎn)換工具，可以將英偉達(dá)等主流企業(yè)的軟件遷移到芯片中，對(duì)于開發(fā)者更為友好。

      嘉楠的核心優(yōu)勢(shì)還體現(xiàn)在對(duì)于芯片研發(fā)設(shè)計(jì)體系的熟稔。張楠賡認(rèn)為，之所以市面上涌現(xiàn)出大量的AI芯片產(chǎn)品，恰恰暴露了當(dāng)下AI產(chǎn)業(yè)沒(méi)有通用硬件平臺(tái)的現(xiàn)狀。以PC時(shí)代為例，Wintel聯(lián)盟的軟硬結(jié)合成為市場(chǎng)主導(dǎo)，多數(shù)公司無(wú)需再單獨(dú)研發(fā)芯片。這也正式嘉楠等芯片廠商的機(jī)遇所在。

      實(shí)際上，對(duì)于很多所謂的芯片廠商而言，ODM（委托設(shè)計(jì)）產(chǎn)品的性能很難保證，靠ODM驗(yàn)證一下概念是可以的，但市場(chǎng)上也很少見(jiàn)到靠ODM成功的產(chǎn)品。而嘉楠不僅包含前端和后端設(shè)計(jì)，還包括標(biāo)準(zhǔn)庫(kù)的設(shè)計(jì)，以及數(shù)?；旌闲盘?hào)等資源，因此可更好地保證芯片的性能。

      目前，K210的方案已用于智能門鎖、智能抄表等業(yè)務(wù)場(chǎng)景。合作伙伴可以通過(guò)嘉楠的SDK（軟件開發(fā)包）等開發(fā)出更多產(chǎn)品。

圖  堪智的SDK（來(lái)源：堪智官網(wǎng)）

      張楠賡表示，嘉楠希望和合作伙伴一道，構(gòu)建共贏格局的AIoT(人工智能物聯(lián)網(wǎng))商業(yè)生態(tài)。