導讀:IoT技術賦能各類型設備連上網(wǎng)并進行通信,進而實現(xiàn)對設備的定位、跟蹤、監(jiān)測和管理等需求;AI技術支持設備可以“看到”“聽到”或者是“感知到”某個物體、聲音或者是事件,并且像人類一樣做出相應的行動。
從概念來說,IoT技術賦能各類型設備連上網(wǎng)并進行通信,進而實現(xiàn)對設備的定位、跟蹤、監(jiān)測和管理等需求;AI技術支持設備可以“看到”“聽到”或者是“感知到”某個物體、聲音或者是事件,并且像人類一樣做出相應的行動。
在兩類技術各自發(fā)展時,設備互聯(lián)產(chǎn)生的海量數(shù)據(jù)亟需被處理,具有強大計算能力的AI技術開始被IoT行業(yè)廣泛需要,進而推動形成了AIoT(物聯(lián)網(wǎng)人工智能)的概念。此時,物聯(lián)網(wǎng)相當于人身上遍布的周圍神經(jīng)網(wǎng)絡,AI則相當于人的大腦。
但需要被正視的現(xiàn)實情況是——AI技術需要大量矩陣運算、大量存儲空間和功耗,具有高功耗、高成本、高速度的特性;而IoT技術因為設備大多采用電池供電以及資源受限,更明顯的特性是低功耗、低成本,且部分應用對時延要求高,無法完全依賴云端完成數(shù)據(jù)運算。
至此,邊緣AI應運而生——指的是在靠近用戶本地的終端網(wǎng)絡邊緣執(zhí)行AI運算,而不是將數(shù)據(jù)集中在云或數(shù)據(jù)中心進行處理。相比于云端AI,邊緣AI具備實時性好、帶寬資源要求低、隱私性高等特點。并且根據(jù)預測,到2025年將有75%的數(shù)據(jù)在邊緣側進行處理。
于是,如何利用邊緣AI技術賦能物聯(lián)網(wǎng)應用成為行業(yè)關鍵話題。全球領先的高性能半導體公司ADI(亞德諾半導體)近日特別舉辦了激活邊緣智能?ADI MCU媒體溝通會,ADI MCU產(chǎn)品線資深業(yè)務經(jīng)理李勇、ADI中國技術支持中心高級工程師辛毅通過各自的分享,深入淺出地對邊緣AI MCU產(chǎn)業(yè)現(xiàn)狀進行了分析。
一、物聯(lián)網(wǎng)時代MCU的特性
根據(jù)功能屬性, MCU(微控制器)可以按照一定的程序對系統(tǒng)其他部件起到控制的作用,也可以收集外界或者內(nèi)部的一些數(shù)據(jù)做出處理、計算和決策,是電子系統(tǒng)的大腦。
從互聯(lián)網(wǎng)到物聯(lián)網(wǎng)時代,MCU在新的領域有了新的突破,比如智能家居、智能電網(wǎng)、現(xiàn)代農(nóng)業(yè)、輔助診斷、可穿戴設備等。例如ADI的智能傳感器平臺3.0 MAXREFDES104,它里面就是使用了MAX32666作為一個主要的MCU,去控制周圍的傳感器檢測人體的各種信號,然后這些數(shù)據(jù)再交給另一個專門負責計算的MCU MAX32670去將心率、血氧等最終的計算數(shù)據(jù)運算出來。
ADI公司自從1995年成立以來,公司MCU產(chǎn)品的出貨量超過10億片。尤其2020年至今,ADI在傳統(tǒng)MCU技術基礎上開拓創(chuàng)新了嶄新的邊緣AI MCU,從而可以支持在電池供電設備中輕松實現(xiàn)物聯(lián)網(wǎng)人工智能,這實際是ADI微控制器系列上的一個很大的劃時代里程碑。
根據(jù)功能應用,MCU產(chǎn)品主要分為三類:
第一類是低功耗MCU,這些MCU具備小體積、低功耗、大存儲的特點,這類產(chǎn)品相對而言比較通用,也很實用,適用于工業(yè)、物聯(lián)網(wǎng)、醫(yī)療、消費類等各類產(chǎn)品;
第二類是安全MCU,這類產(chǎn)品具備安全的系統(tǒng)架構,具有很強的抗攻擊加密能力,可以用在對安全性能要求較高的智能機器或者是終端上,比如POS機、讀卡器等等;第三類可以列為人工智能MCU,也就是AI MCU。這類產(chǎn)品實際上脫胎于第一類低功耗MCU,但是因為這類產(chǎn)品具備了人工智能,也不像通用的MCU,因此可以把它單獨列為一類。ADI的人工智能MCU,它的特色就是可以將AI推理從云端推向邊緣端,從而助力電池供電的人工智能和物聯(lián)網(wǎng)設備,比如說智能家居、人臉打卡、語音控制等等。
在對產(chǎn)品進行特點歸納時,ADI的MCU產(chǎn)品具備功耗低、接口優(yōu)、通訊新、評估全、開發(fā)易、安全強六大特色。
功耗低:具備靈活的操作模式和超低功耗,可以大大提升電池壽命,延長系統(tǒng)續(xù)航時間;
接口優(yōu):具備高速安全的多時鐘選項,可以優(yōu)化程序性能;
通訊新:部分產(chǎn)品集成最新的低功耗藍牙(BLE)模塊,支持遠程模式和BLE音頻等特色,從而允許設備在更遠的范圍內(nèi)進行通信。
評估全:ADI針對大多數(shù)產(chǎn)品提供完備的評估方案和開發(fā)示例,硬件包括評估板、演示套件等,軟件包括SDK、庫文件、驅動代碼等,助力用戶全面了解產(chǎn)品性能、加速產(chǎn)品開發(fā)。
開發(fā)易:SDK提供從低級驅動到高級的一系列示例,簡化產(chǎn)品開發(fā)。
安全強:ADI具備30余年的MCU的IP保護和信任根研發(fā)經(jīng)驗,從而極大增強系統(tǒng)安全性,可以幫助安全敏感型的設備制造商快速、高效地為其產(chǎn)品增加安全加密、密鑰存儲和防篡改功能。
特別是近年來,隨著消費類和工業(yè)應用向高端發(fā)展,用戶往往會傾向于將更多的微控制器整合到系統(tǒng)當中。這些微控制器包括負責應用邏輯與控制的MCU、負責傳感器數(shù)據(jù)集中的MCU、以及負責藍牙連接的MCU等。同時,系統(tǒng)還需要具備獨立的電源管理芯片為這些MCU供電。
但是,由于應用的復雜度越來越高、產(chǎn)品尺寸越來越小、續(xù)航要求越來越長,傳統(tǒng)的多芯片方案往往難以滿足設計需求。
針對這些痛點,ADI的低功耗微控制器憑借單一芯片就集成了傳統(tǒng)上多片微控制器才具備的功能,也內(nèi)置了電源管理模塊。可以說,ADI的低功耗微控制器在主打超低功耗的特色的同時,還具備了高性能、資源豐富等優(yōu)勢,有的還內(nèi)置了藍牙模塊,使得系統(tǒng)的尺寸可以進一步減小。這也成為ADI產(chǎn)品在市場上具有競爭力的重要原因。
二、ADI邊緣AI解決方案MAX7800X系列
對于面向IoT的MCU產(chǎn)品,行業(yè)認為應該考慮系統(tǒng)功耗、計算速度和設備成本之間的平衡。在這個需求下,MAX7800X系列便是ADI旗下的明星產(chǎn)品。
MAX7800X系列產(chǎn)品具備特殊的架構,由兩個微控制器內(nèi)核(ARM Cortex-M4F和RISC-V)加上一個卷積神經(jīng)網(wǎng)絡(CNN)加速器構成。這一架構針對邊緣進行了高度優(yōu)化——數(shù)據(jù)的加載和啟動由微控制器內(nèi)核負責,而AI推理由卷積神經(jīng)網(wǎng)絡加速器專門負責。由此帶來的改變是使AI推理可以無需聯(lián)網(wǎng)就在邊緣完成,以及微控制器內(nèi)核在完成加載和啟動后就無需操作進而大幅降低功耗。
與運行在低功耗微控制器上的純軟件解決方案相比,ADI的MAX7800X方案具備更高的數(shù)據(jù)吞吐量,速度提高了100倍,但是成本僅僅是FPGA或GPU解決方案的零頭。
以及相比于微控制器加上DSP的方案,ADI方案的功耗不足該方案的百分之一。
因此,ADI方案可以在功耗、速度、成本三個方面達成最優(yōu)的平衡,加上其小尺寸的優(yōu)勢,是邊緣AI應用的理想產(chǎn)品。
目前,MA7800X系列主要有兩款人工智能MCU——MAX78000和MAX78002,這二者都是基于Arm Cortex-M4F和RISC-V的低功耗微處理器,搭載專用的卷積神經(jīng)網(wǎng)絡加速器執(zhí)行AI推理。從區(qū)別來看,MAX78002有更高頻率的微控制器內(nèi)核、更大存儲空間、更快的卷積神經(jīng)網(wǎng)絡加速器,模型維度達到MAX78000的4倍,更支持視頻處理,可以說是MAX78000的升級版。
三、邊緣AI MCU在IoT行業(yè)的應用
在分享中,嘉賓們圍繞MAX7800X系列產(chǎn)品在物聯(lián)網(wǎng)領域的應用進行了舉例,包括:
支持在物聯(lián)網(wǎng)設備上實現(xiàn)視覺識別的功能,比如說,經(jīng)過訓練,MAX7800X可以正確識別人臉,從而可以用在考勤打卡、智能門鎖等電池供電的物聯(lián)網(wǎng)設備上。
MAX7800X的視覺識別功能也可以用在識別物品上,可以在攝像頭上面集成MAX78002,從而達到垃圾分類、產(chǎn)品分裝、快遞分揀的功能。
支持關鍵字識別,識別出用戶的語音指示來進行操作,可以用在一些語音控制的物聯(lián)網(wǎng)設備上。
以及還有在雞蛋計數(shù)相機、車載冰箱、智能頭盔、管道泄漏檢查等方面有客戶落地實例。
值得一提的是,為了更直接地幫助用戶評估MAX78000執(zhí)行AI推理的性能,ADI推出了基于MAX78000參考設計——相機模組MAXREFDES178,其外觀像一個立方體,尺寸僅約為4.2cm×4.5cm×4cm,便攜性好。以及除了自身魔方的形狀,還具備攝像頭、麥克風、顯示屏、按鈕等多個機械組件,同時內(nèi)置了電池,真正實現(xiàn)了電池供電的邊緣AI推理,支持人臉識別和語音識別的功能。
另外,ADI還推出了許多其它的評估套件供用戶選用,這些套件的功能更加齊全,用戶也可以根據(jù)自己的需要去連接外設或者進行個性化的開發(fā)。