近年來，伴隨著人工智能技術(shù)與應(yīng)用的快速發(fā)展與迭代，其對算力的要求不斷提高，而作為算力核心的人工智能芯片，自然而然也受到了產(chǎn)業(yè)界的強烈關(guān)注。其中，作為深度學(xué)習(xí)和人工智能領(lǐng)域的專用芯片——NPU，正在逐漸走向“舞臺中央”。

　　NPU：高效能、低功耗、穩(wěn)定性

　　NPU，即神經(jīng)網(wǎng)絡(luò)處理器，是一種專門設(shè)計用于加速人工智能（AI）和機器學(xué)習(xí)（ML）應(yīng)用的芯片，它采用了數(shù)據(jù)驅(qū)動并行計算架構(gòu)，使得NPU在處理視頻、圖像等多媒體數(shù)據(jù)時具有超強的性能，旨在高效、低功耗地執(zhí)行機器學(xué)習(xí)尤其是深度學(xué)習(xí)任務(wù)。

　　相較于傳統(tǒng)的CPU和GPU，NPU在AI計算方面具有更高的效能和更低的功耗。NPU針對深度學(xué)習(xí)算法所需的復(fù)雜計算進行了優(yōu)化，能夠高效地完成深度學(xué)習(xí)、圖像識別等任務(wù)，大幅提升了AI處理的性能。而且由于NPU的特定優(yōu)化，使其在運行AI任務(wù)時功耗更低，延長了設(shè)備的續(xù)航時間。此外，NPU通常具有很好的容錯性和可靠性，即使在高負載、復(fù)雜計算任務(wù)的情況下，也能夠保持穩(wěn)定的計算性能。

　　一開始，NPU主要用于提升智能手機的相機功能、電池續(xù)航和安全性等。如今，隨著AI技術(shù)與應(yīng)用的普及，NPU已逐漸成為人工智能技術(shù)中不可或缺的組成部分之一，其優(yōu)勢愈發(fā)明顯，并正在快速地擴展到更多應(yīng)用場景中。當(dāng)前，NPU被廣泛應(yīng)用于人臉識別、智能語音、自動駕駛、智能安防、智能家居、智慧醫(yī)療、工業(yè)質(zhì)檢等各種人工智能應(yīng)用場景中，為各行各業(yè)帶來更多的智能化解決方案。

　　邊緣智能，NPU或是最佳選擇

　　前不久，高通發(fā)布了《通過NPU和異構(gòu)計算開啟終端側(cè)生成式AI》報告，其中提到：“隨著生成式AI用例需求在有著多樣化要求和計算需求的垂直領(lǐng)域不斷增加，需要專為AI定制設(shè)計的全新計算架構(gòu)……通過結(jié)合NPU使用合適的處理器，異構(gòu)計算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航，賦能全新增強的生成式AI體驗。”

　　近年來，隨著物聯(lián)網(wǎng)設(shè)備的廣泛部署與大數(shù)據(jù)的爆炸式增長，對于能夠即時處理和分析數(shù)據(jù)的需求愈發(fā)迫切。加上近段時間，大模型持續(xù)向邊緣側(cè)和端側(cè)滲透，AI計算和推理工作逐步從云端轉(zhuǎn)移到邊緣和端側(cè)，于是邊緣計算逐漸成為了AI應(yīng)用的重要場景，端、邊緣市場的AI算力需求也由此逐漸爆發(fā)。

　　那么，在此背景下，NPU易開發(fā)、高效能、低功耗等優(yōu)勢逐漸凸顯出來，憑借著其在邊緣設(shè)備上執(zhí)行機器學(xué)習(xí)和深度學(xué)習(xí)任務(wù)的能力，能夠有效地執(zhí)行圖像識別、語音處理等AI任務(wù)，從而在邊緣設(shè)備上實現(xiàn)快速的智能決策和響應(yīng)。

　　當(dāng)下，在人工智能的高速發(fā)展下，NPU作為人工智能時代的核心驅(qū)動力之一，其發(fā)展與應(yīng)用正深刻改變著各行各業(yè)，其不僅賦予了終端設(shè)備更強大的智能化能力，也為千行百業(yè)的數(shù)智化升級提供了有力支持。未來，隨著技術(shù)的不斷進步和應(yīng)用領(lǐng)域的持續(xù)拓展，NPU將更加智能、高效、節(jié)能，成為推動社會智能化轉(zhuǎn)型的中堅力量，為經(jīng)濟社會發(fā)展帶來更多的驚喜。

　　NPU相關(guān)企業(yè)布局

　　芯原股份：宣布集成了芯原神經(jīng)網(wǎng)絡(luò)處理器（NPU）IP的人工智能（AI）類芯片已在全球范圍內(nèi)出貨超過1億顆。

　　國科微：公司通過自主研發(fā)成功推出了NPU，實現(xiàn)了低中高算力的全場景布局，打造全系邊端AI芯片標(biāo)配NPU技術(shù)，賦能多元化智能應(yīng)用場景落地。

　　瑞芯微：公司新推出的SoC芯片大部分搭載了自研NPU，可以在低待機功耗的同時提供優(yōu)秀的邊緣AI算力，滿足市場對智能化、算力的需求。

　　北京君正：公司的NPU技術(shù)已應(yīng)用于T40、T41、A1等芯片中，且已量產(chǎn)銷售。

　　云天勵飛：DeepEdge10作為首顆云天自研的SOC芯片，搭載新一代自研NPU（NNP400T）。

　　智微智能：公司提供AI服務(wù)器和AIBOX邊緣設(shè)備，推出基于GPU、多家ASIC AI加速卡、ARM NPU的多系列產(chǎn)品。

　　全志科技：公司深入分析AI算法的應(yīng)用場景，主動積極推進NPU和DSP的AI專用算力在終端產(chǎn)品應(yīng)用的落地。

　　高通：提出通過NPU和異構(gòu)計算將開啟終端側(cè)生成式AI時代。其Hexagon NPU面向低功耗、高性能的AI推理而設(shè)計，通過定制設(shè)計NPU和控制指令集架構(gòu)（ISA），能夠快速進行設(shè)計演進和擴展。其中，高通的Hexagon NPU在終端側(cè)AI推理方面表現(xiàn)出色，其性能提升達到98%，能效提升達到40%。

　　英特爾：正式發(fā)布新一代酷睿Ultra移動處理器，該處理器還集成了用于客戶端的片上AI加速器“神經(jīng)網(wǎng)絡(luò)處理單元（NPU）”，AI性能高達48 TOPS，最高達上一代產(chǎn)品的4倍，能夠相應(yīng)提高生成式AI的性能。

　　AMD：宣布推出Ethos-U85 NPU。作為Arm面向邊緣AI的第三代NPU產(chǎn)品，Ethos-U85在性能方面提升了四倍；較上一代產(chǎn)品在能效方面擁有20%的提升，還可在常用神經(jīng)網(wǎng)絡(luò)上實現(xiàn)85%的利用率。

　　……