當前，人工智能技術正在飛速發(fā)展，在語音識別、圖像識別等領域不斷取得突破。如何讓萬物盡快享受到這些技術所帶來的成果，讓日常生活中的音箱、玩具、家電等產品都能聽會說，是我們一直期盼的目標。
昨日，國芯在深圳召開了隆重的產品發(fā)布會，發(fā)布全新芯片GX8010——搭載NPU的物聯(lián)網人工智能芯片，它將為各種物聯(lián)網產品賦能。
國芯針對人工智能與物聯(lián)網的特點，將算法、軟件、硬件深度整合，創(chuàng)新性地采用了NPU、DSP等多項最新技術，推出這款全新的AI芯片，核心目標就是讓日常生活中各種產品智能化，都“看得見”、“聽得到”、“說得出”。AI芯片里到底有什么，它和傳統(tǒng)芯片有何差別，以及各種在物聯(lián)網上部署人工智能的難點和痛點，GX8010是怎么解決的呢？讓我們一起來走進這顆AI芯。
解決痛點一：本地神經絡計算困難
深度學習在各個領域取得了重大突破，但與此同時，它對處理器的計算能力提出更高的要求。傳統(tǒng)芯片中普遍采用CPU處理器，但隨著神經網絡逐漸變大，高運算量和高吞吐率使得CPU不堪重負。從CPU到DSP、GPU，處理器的性能不斷地提升，最終誕生了人工智能專用處理器——NPU。GX8010中就內置了國芯自主研發(fā)的gxNPU神經網絡處理器，它專門為人工智能而定制，針對神經網絡加速，徹底解決了傳統(tǒng)芯片在神經網絡運算時效率低下的難題。
這款神經網絡處理器gxNPU針對物聯(lián)網人工智能量身定做，它支持當前主流的各種模型，如DNN、CNN、LSTM等。當然你可以根據算法需要，自由設計和擴展網絡結構，自定義運算單元。在數(shù)據格式上，該NPU同時支持定點和浮點運算，使用非常便捷。
為了解決物聯(lián)網設備中內存帶寬小的特點，國芯專門設計了神經網絡壓縮引擎NCompressor。它能利用神經網絡中的數(shù)據稀疏特性，壓縮計算權重，在幾乎不影響精度的情況下，實現(xiàn)6~10倍的壓縮效果。神經網絡經過壓縮后，需要的內存容量和帶寬大幅減少，同時運算的速度也得到了提高。針對壓縮國芯還提供了編譯工具，可以一鍵實現(xiàn)模型的量化壓縮，然后通過芯片中的硬件引擎解壓，無需重訓練和額外處理，使用非常方便。
和編譯壓縮工具一起，國芯還發(fā)布了全套神經網絡開發(fā)SDK，只需要簡單三步，就能完成模型從服務器到芯片的部署。第一步，先在Tensorflow等平臺訓練，生成模型的網表文件。第二步，使用gxNPUC（神經網絡編譯器）進行編譯和壓縮，生成指令bin文件。最后在芯片上使用gxDNN加速庫，將編譯的模型在芯片本地運行即可。
考慮到物聯(lián)網應用中的成本和功耗因素，這一代的gxNPU中并沒有堆砌非常多的MAC陣列，而是選擇了64x64的配置。但在典型應用的性能評測中，gxNPU@200MHz仍然比樹莓派中的多核CPU@1GHz，快了近30倍，能效提升100倍以上。
那么問題來了，這款NPU與Google TPU、華為麒麟970芯片的NPU有何不同之處呢？我們知道，Google TPU是應用于服務器上的處理器，它更關注算力的大小，對成本和功耗不是那么敏感。與Google TPU相比，gxNPU針對物聯(lián)網而設計，增加了神經網絡壓縮引擎，在計算時需要的內存和帶寬更少，功耗更低，更適于在各種物聯(lián)網產品中部署。而華為的NPU針對手機場景設計，由于公開的資料較少，目前還不好比較。
解決痛點二：AI交互系統(tǒng)復雜，成本高
AI芯片要真正落地，光有NPU還遠遠不夠。整個AI交互是一個非常復雜的過程，除了神經網絡計算還包括傳感器接入，信號處理，檢測識別，以及軟件層面的決策和反饋等。環(huán)節(jié)眾多，每一處需要的算法和計算特性還不一樣，對此國芯提出了“全面集成，全棧打通”的策略。
以智能語音交互為例，當前語音識別的巨大挑戰(zhàn)仍在前端的語音降噪，為了解決噪聲和有效語音分離問題，業(yè)內引入了麥克風陣列，利用空間信息進行降噪濾波。多個麥克風的引入首先對硬件上的接口就提出了要求，一些傳統(tǒng)芯片沒有這么多接口只能通過其它器件來擴展。同時多路信號的接入，也使得前端語音處理計算量大增，傳統(tǒng)芯片中大家用CPU軟解已是十分吃力。
在這顆芯片里，我們驚喜地看到它集成了Cadence Tensilica最高階的語音DSP Hifi-4，這顆DSP專門為智能語音而設計，可以高效地進行各種語音信號處理計算。同時GX8010芯片中支持8通道麥克風接口，不僅支持PDM和I2S數(shù)字接口，還內置了8路ADC直接支持模擬麥克風。DSP+8通道ADC，這個配置目前在業(yè)界還是第一次出現(xiàn)。同時在這顆DSP上，國芯正在與Rokid、思必馳等業(yè)內頂級的語音算法公司合作，將他們的算法移植進來，合作推出低成本、低功耗的整體語音解決方案。
除了語音系統(tǒng)外，GX8010還構建了視覺系統(tǒng)，支持1080P攝像頭輸入，圖像預處理，MJPEG編碼等模塊。語音和圖像的信號處理完后，都送到中央的決策和應用系統(tǒng)進行業(yè)務和應用處理。
整個芯片采用了多核異構的架構，集成了國芯gxNPU，ARM Cortex A7 CPU，Hifi-4 DSP等多個處理器，其中DSP負責語音信號處理增強、NPU負責深度學習計算、CPU負責軟件運行和應用決策控制等。這些模塊全面整合在一顆芯片上，構成了一個完整的AI處理系統(tǒng)，實屬真正的AI SOC芯片。
除了上面說的這些以外，GX8010還在片內通過SIP的方式直接集成了一顆DRAM。這樣整個芯片的集成度已是相當驚人，外圍需要的器件極少，整體產品的BOM成本將會大幅降低。尤其在智能音箱、語音交互模塊等語音應用領域，具有極高的競爭力。
解決痛點三：功耗太大！
物聯(lián)網產品的一大應用難點在于體積較小、場景多樣，很多時候需要電池供電，這便對產品的功耗提出了較高的要求。針對這一難題，我們也給出了解決方案。
在動態(tài)功耗上，芯片充分利用多核異構的優(yōu)勢，合理安排每個模塊的工作頻率和啟停時機，可以做到按需使用、用完即停的效果。在典型的語音交互中，GX8010只需要100-200MHz即可完成離線語音識別，DSP工作在300-400MHz即可實現(xiàn)多麥克風陣列處理，CPU更是可以根據系統(tǒng)負荷進行動態(tài)調整。這種方案讓芯片在高效運轉的同時，又能保持非常低的功耗。據測試，在離線語音交互的場景下全速運行，GX8010的功耗可以做到0.7W以內（包括DRAM）。
待機問題也一直是語音交互設備的難點。因為系統(tǒng)要求待機時仍能被語音喚醒，也就意味著待機時還要做語音采集、降噪、激活詞識別等一系列動作。GX8010提出了多級喚醒機制，可以根據是否有聲音、是否有人聲，是否是關鍵詞這多個等級來做硬件劃分，逐級喚醒系統(tǒng)。在待機時，GX8010應用最新的VAD（Voice Activity Detection）技術，檢測麥克風有沒有語音輸入，一旦接收到語音指令，DSP程序啟動降噪，接著NPU啟動激活詞識別，如檢測到關鍵詞才激活整個應用系統(tǒng)。
這種逐級喚醒的機制，既保證了語音助手能實時響應指令，又能大幅延長設備的續(xù)航時間。據測試，GX8010可以在0.05W的待機功耗下實現(xiàn)語音喚醒。這個數(shù)值遠遠低于當前市面上的其它芯片，輕松實現(xiàn)長時間待機。
這種逐級喚醒的機制，既保證了語音助手能實時響應指令，又能大幅延長設備的續(xù)航時間。據測試，GX8010可以在0.05W的待機功耗下實現(xiàn)語音喚醒。這個數(shù)值遠遠低于當前市面上的其它芯片，輕松實現(xiàn)長時間待機。
重點應用領域
憑借著本地離線神經網絡計算，超高集成度，低功耗等特點，GX8010芯片將在多個應用領域展現(xiàn)出它的實力。重點應用領域將包括智能音箱、語音接口、和智能玩具等市場。
》》可電池供電、可離線的智能音箱方案
市面上大多數(shù)智能音箱，因為功耗問題大多選擇了電源供電。采用GX8010方案后，發(fā)揮其低功耗工作和待機的特點，使用電池也可以輕松待機數(shù)天。再發(fā)揮GX8010的離線能力可以實現(xiàn)離在線混合，即使在無網絡環(huán)境也能使用。最后GX8010集成了眾多模塊，它在成本上將具有絕對優(yōu)勢，有助于產品成本降低和促進市場進一步放量。
》》給萬物帶來語音接口的前端方案
很多像電視、機頂盒、家電等產品，本身已經擁有比較成熟的軟硬件體系，但他們仍然希望能夠實現(xiàn)智能化升級，特別是具備語音交互能力。在GX8010基礎上，國芯推出了一個裁剪版的型號GX8008，專門針對語音前端市場。它可以讓傳統(tǒng)的設備保留其原先硬件的基礎上，通過一個簡單的USB口實現(xiàn)語音能力的升級。在待機時，更是可以讓主機完全休眠，只依賴GX8008來做降噪和激活，并恢復系統(tǒng)。解決了之前電視和機頂盒等產品，無法在語音監(jiān)聽下低功耗待機的問題。
》》兼具語音與視覺的智能玩具方案
同時具有語音和視覺接口的GX8010，將會發(fā)力智能玩具和幼教市場。利用其可離線低功耗的特點，智能玩具將擺脫對Wifi的限制，以后就可以與小朋友們一起出家門玩耍啦。
高智慧、低功耗、全集成，是這款GX8010最大的特點，它將給物聯(lián)網市場帶來全新的變化。各種最新的人工智能算法和計算，都有機會在嵌入式設備中部署。音箱，家電，玩具，車載等各種產品，將會變得更加智能，功能豐富，體驗更好。萬物智能的時代不再遙遠，讓我們一起來期待GX8010這顆中國芯接下來的表現(xiàn)。
