技術(shù)
導(dǎo)讀:在為像 TinyML 這樣的應(yīng)用程序?qū)で蟾?jié)能的計(jì)算時(shí),正在開發(fā)的更有前途的技術(shù)之一是模擬計(jì)算。如果處理得當(dāng),模擬可以帶來更節(jié)能的計(jì)算,從而為邊緣計(jì)算節(jié)省大量能源。
當(dāng)您將模擬計(jì)算的優(yōu)點(diǎn)應(yīng)用于 ML 時(shí)會(huì)發(fā)生什么?據(jù) Aspinity 稱,這種芯片可將系統(tǒng)功耗降低多達(dá) 95%。
在為像 TinyML 這樣的應(yīng)用程序?qū)で蟾?jié)能的計(jì)算時(shí),正在開發(fā)的更有前途的技術(shù)之一是模擬計(jì)算。如果處理得當(dāng),模擬可以帶來更節(jié)能的計(jì)算,從而為邊緣計(jì)算節(jié)省大量能源。
近日,模擬計(jì)算公司 Aspinity 發(fā)布了新的模擬 TinyML 芯片 AML100,成為頭條新聞。
Aspinity 稱 AML100 是“世界上第一款模擬 ML 芯片”。
該公司聲稱,其新產(chǎn)品是業(yè)界第一個(gè)也是唯一一個(gè)“完全在模擬域內(nèi)”運(yùn)行的 TinyML 解決方案,其結(jié)果是為邊緣應(yīng)用節(jié)省了能源。該公司在模擬計(jì)算市場上有著開創(chuàng)性的記錄,兩年前發(fā)布了具有“選擇性聽力”功能的 ML 模擬芯片。
All About Circuits 有機(jī)會(huì)與 Aspinity 的創(chuàng)始人兼首席執(zhí)行官 Tom Doyle 交談,以直接了解新產(chǎn)品。
Aspinity 對(duì)傳統(tǒng)模擬計(jì)算的改進(jìn)
今天的大多數(shù)模擬計(jì)算解決方案在很大程度上仍然存在于數(shù)字領(lǐng)域。數(shù)據(jù)(權(quán)重)存儲(chǔ)在數(shù)字域中,但使用 DAC 轉(zhuǎn)換回模擬量以進(jìn)行計(jì)算。
當(dāng)嘗試在諸如始終在線喚醒字檢測(cè)等應(yīng)用中實(shí)現(xiàn)低功耗時(shí),這種從原生模擬到數(shù)字、再到模擬的持續(xù)數(shù)據(jù)轉(zhuǎn)換可能會(huì)限制原始模擬計(jì)算提供的節(jié)能效果。
“許多利用‘模擬’和‘模擬計(jì)算’這個(gè)詞的人通常試圖解決數(shù)字領(lǐng)域內(nèi)的問題,”Doyle 說。“如果你閱讀他們的網(wǎng)站并深入挖掘,你會(huì)發(fā)現(xiàn)他們實(shí)際上是數(shù)字域處理器,這意味著他們實(shí)際上是在使用數(shù)字?jǐn)?shù)據(jù)。他們?cè)噲D用模擬做的是通過在內(nèi)存中進(jìn)行模擬計(jì)算來實(shí)際節(jié)省數(shù)字內(nèi)核中的功率。這很棒,我們都支持它,但它非常有限?!?/p>
Aspinity 的永遠(yuǎn)在線架構(gòu)與傳統(tǒng)計(jì)算的對(duì)比。
Aspinity 的 AML100 采用了不同的方法。Doyle 解釋說:“相反,我們能夠?qū)C(jī)器學(xué)習(xí)能力從數(shù)字領(lǐng)域直接轉(zhuǎn)移到模擬領(lǐng)域。我們能夠分析來自本機(jī)模擬的原始傳感器數(shù)據(jù),然后我們能夠關(guān)閉 ADC 和數(shù)字處理器?!?/p>
通過這種方式,AML100 保留數(shù)據(jù)并完全在模擬域中執(zhí)行 AI/ML 計(jì)算。由于工程師現(xiàn)在可以在檢測(cè)到重要數(shù)據(jù)之前將數(shù)字組件保持在低功耗模式,因此這可以節(jié)省整體系統(tǒng)功耗,同時(shí)最大限度地減少總數(shù)據(jù)量,從而消除數(shù)字化、數(shù)字處理和無關(guān)數(shù)據(jù)傳輸?shù)墓膿p失。
Aspinity AML100
據(jù)介紹,Aspinity 的新 AML100 芯片利用這種新架構(gòu)為客戶提供顯著的節(jié)能效果。
該芯片的模擬計(jì)算基于一組獨(dú)立的、可配置的模擬模塊 (CAB),每個(gè)模塊都可以在軟件內(nèi)完全進(jìn)行現(xiàn)場編程,從而實(shí)現(xiàn)廣泛的功能、傳感器輸入和應(yīng)用。在這些 CAB 的更深處,人們會(huì)發(fā)現(xiàn)模擬非易失性存儲(chǔ)器陣列以及模擬信號(hào)處理模塊。該芯片還利用專有的模擬壓縮技術(shù),允許預(yù)卷收集和喚醒詞檢測(cè)等應(yīng)用的準(zhǔn)確性。
AML100 的框圖。
Aspinity 還表示,該芯片支持多種模型架構(gòu)和機(jī)器學(xué)習(xí)應(yīng)用。
“在我們對(duì)喚醒詞檢測(cè)等應(yīng)用的大多數(shù)測(cè)試中,我們發(fā)現(xiàn) AML100 使用了大約四分之一的可用資源,”Doyle 解釋說。“我們發(fā)現(xiàn)有大量剩余資源,這表明如果需要,我們可以切實(shí)支持各種模型和新的 ML 架構(gòu)。”
總體而言,據(jù)說該芯片在執(zhí)行始終開啟感應(yīng)時(shí)消耗不到 20uA。據(jù) Aspinity 稱,AML100 使工程師始終在線的系統(tǒng)功耗降低了 95%。
切割數(shù)據(jù)和功率
雖然市場上存在其他模擬解決方案,但 Aspinity 聲稱其方法是新穎的——它帶來了可衡量的好處。AML100 據(jù)稱可將數(shù)據(jù)減少多達(dá) 100 倍,同時(shí)節(jié)省多達(dá) 95% 的電力,可能會(huì)對(duì)邊緣計(jì)算和 TinyML 世界產(chǎn)生顯著影響。