SNN塊切分單元
具體技術(shù)內(nèi)容、所解決的技術(shù)問題、產(chǎn)生的技術(shù)效果
從語音識別芯片領(lǐng)域切入,為具有超低功耗需求的智能物聯(lián)網(wǎng)(AIoT)芯片廠商提供最新一代深度學習神經(jīng)網(wǎng)絡(luò),使客戶能夠節(jié)省SNN開發(fā)成本,快速實現(xiàn)由ANN芯片向SNN芯片的躍遷,實現(xiàn)高性能、低功耗的芯片產(chǎn)品開發(fā)。
應(yīng)用場景和對應(yīng)技術(shù)領(lǐng)域
視頻監(jiān)控、語音識別、無人機、自動駕駛、機器人等
先進性、創(chuàng)新性、前沿性說明
脈沖神經(jīng)網(wǎng)絡(luò)(SNN)被譽為第三代人工神經(jīng)網(wǎng)絡(luò)。脈沖神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)的主要優(yōu)勢有:1、神經(jīng)元的輸入輸出不同。脈沖神經(jīng)網(wǎng)絡(luò)通過單比特脈沖連接、權(quán)重和輸入數(shù)據(jù)為加法運算、脈沖發(fā)送的速率低于1KHz來降低功耗。2、神經(jīng)元模型不同。脈沖神經(jīng)網(wǎng)絡(luò)的神經(jīng)元模型是基于膜電壓的微分方程,接近于生物神經(jīng)元模型,有生物可解釋性。模型中閾值,可以降低噪聲增大容錯性。3、模仿人腦將權(quán)重存放在運算單元附近,減少了DRAM的訪問也降低了功耗。由于脈沖神經(jīng)網(wǎng)絡(luò)以上的優(yōu)點,開發(fā)脈沖神經(jīng)網(wǎng)絡(luò)芯片是近年國內(nèi)外學術(shù)界與產(chǎn)業(yè)界的熱點。
新氦脈沖神經(jīng)網(wǎng)絡(luò)芯片架構(gòu)的研究和成果補充了國內(nèi)在類腦芯片方面的研發(fā)不足。同時新氦采取開放的策略提供各種IP降低企業(yè)在類腦芯片的準入門檻,進一步推動類腦技術(shù)的生態(tài)發(fā)展。新氦類腦脈沖神經(jīng)網(wǎng)絡(luò)前沿性研究內(nèi)容:
(1)研究脈沖神經(jīng)網(wǎng)絡(luò)算法:包括在線學習算法,卷積神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)脈沖神經(jīng)網(wǎng)絡(luò)算法,脈沖神經(jīng)網(wǎng)絡(luò)直接訓練算法,脈沖編碼算法和片上網(wǎng)絡(luò)路由算法等。
(2)研究開發(fā)脈沖神經(jīng)網(wǎng)絡(luò)通用IP:包括神經(jīng)元陣列,脈沖編碼,片上網(wǎng)絡(luò)、芯片間擴展接口等。
(3)研究開發(fā)脈沖神經(jīng)網(wǎng)絡(luò)測試芯片,客戶可以使用我們的測試芯片評估各種IP的性能。
從語音識別芯片領(lǐng)域切入,為具有超低功耗需求的智能物聯(lián)網(wǎng)(AIoT)芯片廠商提供最新一代深度學習神經(jīng)網(wǎng)絡(luò),使客戶能夠節(jié)省SNN開發(fā)成本,快速實現(xiàn)由ANN芯片向SNN芯片的躍遷,實現(xiàn)高性能、低功耗的芯片產(chǎn)品開發(fā)。
應(yīng)用場景和對應(yīng)技術(shù)領(lǐng)域
視頻監(jiān)控、語音識別、無人機、自動駕駛、機器人等
先進性、創(chuàng)新性、前沿性說明
脈沖神經(jīng)網(wǎng)絡(luò)(SNN)被譽為第三代人工神經(jīng)網(wǎng)絡(luò)。脈沖神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)的主要優(yōu)勢有:1、神經(jīng)元的輸入輸出不同。脈沖神經(jīng)網(wǎng)絡(luò)通過單比特脈沖連接、權(quán)重和輸入數(shù)據(jù)為加法運算、脈沖發(fā)送的速率低于1KHz來降低功耗。2、神經(jīng)元模型不同。脈沖神經(jīng)網(wǎng)絡(luò)的神經(jīng)元模型是基于膜電壓的微分方程,接近于生物神經(jīng)元模型,有生物可解釋性。模型中閾值,可以降低噪聲增大容錯性。3、模仿人腦將權(quán)重存放在運算單元附近,減少了DRAM的訪問也降低了功耗。由于脈沖神經(jīng)網(wǎng)絡(luò)以上的優(yōu)點,開發(fā)脈沖神經(jīng)網(wǎng)絡(luò)芯片是近年國內(nèi)外學術(shù)界與產(chǎn)業(yè)界的熱點。
新氦脈沖神經(jīng)網(wǎng)絡(luò)芯片架構(gòu)的研究和成果補充了國內(nèi)在類腦芯片方面的研發(fā)不足。同時新氦采取開放的策略提供各種IP降低企業(yè)在類腦芯片的準入門檻,進一步推動類腦技術(shù)的生態(tài)發(fā)展。新氦類腦脈沖神經(jīng)網(wǎng)絡(luò)前沿性研究內(nèi)容:
(1)研究脈沖神經(jīng)網(wǎng)絡(luò)算法:包括在線學習算法,卷積神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)脈沖神經(jīng)網(wǎng)絡(luò)算法,脈沖神經(jīng)網(wǎng)絡(luò)直接訓練算法,脈沖編碼算法和片上網(wǎng)絡(luò)路由算法等。
(2)研究開發(fā)脈沖神經(jīng)網(wǎng)絡(luò)通用IP:包括神經(jīng)元陣列,脈沖編碼,片上網(wǎng)絡(luò)、芯片間擴展接口等。
(3)研究開發(fā)脈沖神經(jīng)網(wǎng)絡(luò)測試芯片,客戶可以使用我們的測試芯片評估各種IP的性能。
關(guān)鍵技術(shù)IP
減小突觸連接的存儲面積的方法、裝置、設(shè)備和存儲介質(zhì)
技術(shù)特征簡介
能減小突觸連接的存儲面積,隨著單個核的面積變小,單塊芯片可以集成更多的神經(jīng)元,并可在包括脈沖神經(jīng)網(wǎng)絡(luò)、類腦神經(jīng)網(wǎng)絡(luò)在內(nèi)的多個領(lǐng)域中的應(yīng)用。脈沖信號發(fā)送方法、裝置及存儲介質(zhì)
技術(shù)特征簡介
克服了脈沖神經(jīng)網(wǎng)絡(luò)中脈沖數(shù)據(jù)包帶寬需求較高的缺點,使用較低的代價將多個脈沖數(shù)據(jù)包匯聚成單個數(shù)據(jù)包,從而減少了數(shù)據(jù)包的數(shù)目,降低對帶寬的需求軸突輸入擴展方法、裝置、設(shè)備和存儲介質(zhì)
技術(shù)特征簡介
當需要參與運算的軸突輸入數(shù)K大于可支持的最大軸突數(shù)輸入N時,將K個軸突輸入分組并分別連接到多個神經(jīng)元核的軸突輸入;各神經(jīng)元核對各個單比特軸突輸入進行加權(quán)相加得到以M比特位寬的加權(quán)和,刪除X個低位以轉(zhuǎn)換為S比特位寬的加權(quán)和;分別連接到一匯總神經(jīng)元核的不同軸突輸入,并將所有S比特位寬的加權(quán)和相加得到加權(quán)總和;加權(quán)總和加上上一次膜電壓值并與閾值比較;若大于等于閾值,則匯總神經(jīng)元核輸出1比特脈沖數(shù)據(jù)。本申請不需要乘法電路,也不需要支持ANN模式,沒有引入額外的運算單元,成本較低;和現(xiàn)有方法相比算法精度更高;使用的神經(jīng)元核數(shù)目比清華的軸突擴展方法數(shù)目少。脈沖神經(jīng)網(wǎng)絡(luò)中一種減少權(quán)重存儲實現(xiàn)卷積運算的方法與裝置
技術(shù)特征簡介
獲取儲存的神經(jīng)核中第一神經(jīng)元的一維權(quán)重向量;其中,所述神經(jīng)核包括:依次排列的N個神經(jīng)元;對所述第一神經(jīng)元的一維權(quán)重向量進行移位,獲得對應(yīng)所述神經(jīng)核的第i神經(jīng)元的一維權(quán)重向量;將第i神經(jīng)元的一維權(quán)重向量與對應(yīng)該神經(jīng)元的軸突向量進行卷積計算,獲得對應(yīng)第i神經(jīng)元的神經(jīng)元膜電壓計算結(jié)果。本發(fā)明通過一個神經(jīng)元核只存儲一個神經(jīng)元的權(quán)重,神經(jīng)元核中的其他神經(jīng)元的權(quán)重根據(jù)存儲的權(quán)重進行變換得到,大大降低了權(quán)重存儲空間。



滬公網(wǎng)安備 31011002003093號