[發(fā)明專利]一種剪枝神經(jīng)網(wǎng)絡(luò)模型的方法和裝置在審
| 申請(qǐng)?zhí)枺?/td> | 202010820874.7 | 申請(qǐng)日: | 2020-08-14 |
| 公開(公告)號(hào): | CN112001483A | 公開(公告)日: | 2020-11-27 |
| 發(fā)明(設(shè)計(jì))人: | 項(xiàng)陽 | 申請(qǐng)(專利權(quán))人: | 廣州市百果園信息技術(shù)有限公司 |
| 主分類號(hào): | G06N3/04 | 分類號(hào): | G06N3/04;G06N3/08 |
| 代理公司: | 北京品源專利代理有限公司 11332 | 代理人: | 孟金喆 |
| 地址: | 511402 廣東省廣州市番*** | 國(guó)省代碼: | 廣東;44 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 剪枝 神經(jīng)網(wǎng)絡(luò) 模型 方法 裝置 | ||
1.一種剪枝神經(jīng)網(wǎng)絡(luò)模型的方法,其特征在于,所述方法包括:
獲取目標(biāo)神經(jīng)網(wǎng)絡(luò)模型的模型結(jié)構(gòu)數(shù)據(jù),所述模型結(jié)構(gòu)數(shù)據(jù)包括多個(gè)節(jié)點(diǎn)的節(jié)點(diǎn)信息;
根據(jù)所述多個(gè)節(jié)點(diǎn)的節(jié)點(diǎn)信息確定所述目標(biāo)神經(jīng)網(wǎng)絡(luò)模型中可被剪枝的卷積層信息;
將所述可被剪枝的卷積層信息提供給上層的剪枝算法,以由所述剪枝算法根據(jù)所述可被剪枝的卷積層信息確定所述目標(biāo)神經(jīng)網(wǎng)絡(luò)模型中的對(duì)應(yīng)卷積層的剪枝結(jié)果;
獲取所述剪枝算法確定的所述剪枝結(jié)果,并根據(jù)所述剪枝結(jié)果對(duì)所述模型結(jié)構(gòu)數(shù)據(jù)進(jìn)行修改,以構(gòu)建剪枝后的目標(biāo)神經(jīng)網(wǎng)絡(luò)模型。
2.根據(jù)權(quán)利要求1所述的剪枝神經(jīng)網(wǎng)絡(luò)模型的方法,其特征在于,所述節(jié)點(diǎn)信息包括節(jié)點(diǎn)所在的卷積層名稱;所述根據(jù)所述多個(gè)節(jié)點(diǎn)的節(jié)點(diǎn)信息確定所述目標(biāo)神經(jīng)網(wǎng)絡(luò)模型中可被剪枝的卷積層信息包括:
根據(jù)所述多個(gè)節(jié)點(diǎn)的節(jié)點(diǎn)信息構(gòu)建所述目標(biāo)神經(jīng)網(wǎng)絡(luò)模型的網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D;
從所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D的起始節(jié)點(diǎn)開始進(jìn)行廣度優(yōu)先遍歷,判斷各節(jié)點(diǎn)及其子節(jié)點(diǎn)是否均為卷積節(jié)點(diǎn);
若當(dāng)前遍歷的節(jié)點(diǎn)及其子節(jié)點(diǎn)均為卷積節(jié)點(diǎn),則記錄該節(jié)點(diǎn)對(duì)應(yīng)的卷積層名稱,作為可被剪枝的卷積層信息。
3.根據(jù)權(quán)利要求2所述的剪枝神經(jīng)網(wǎng)絡(luò)模型的方法,其特征在于,所述節(jié)點(diǎn)信息還包括操作屬性信息以及父節(jié)點(diǎn)索引信息;
所述根據(jù)所述多個(gè)節(jié)點(diǎn)的節(jié)點(diǎn)信息構(gòu)建所述目標(biāo)神經(jīng)網(wǎng)絡(luò)模型的網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D包括:
遍歷各節(jié)點(diǎn),針對(duì)當(dāng)前遍歷到的節(jié)點(diǎn),判斷該節(jié)點(diǎn)的操作屬性信息是否零值;
若否,則將該節(jié)點(diǎn)加入到網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中,并根據(jù)該節(jié)點(diǎn)的父節(jié)點(diǎn)索引信息確定該節(jié)點(diǎn)的父節(jié)點(diǎn)是否在所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中;
若該節(jié)點(diǎn)的父節(jié)點(diǎn)在所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中,則在所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中建立該節(jié)點(diǎn)與所述父節(jié)點(diǎn)的拓?fù)潢P(guān)系。
4.根據(jù)權(quán)利要求3所述的剪枝神經(jīng)網(wǎng)絡(luò)模型的方法,其特征在于,所述將該節(jié)點(diǎn)加入到網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中包括:
在預(yù)先生成的地址字典中查找該節(jié)點(diǎn)的地址信息;
將所述地址信息加入所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中。
5.根據(jù)權(quán)利要求3所述的剪枝神經(jīng)網(wǎng)絡(luò)模型的方法,其特征在于,所述根據(jù)該節(jié)點(diǎn)的父節(jié)點(diǎn)索引信息確定該節(jié)點(diǎn)的父節(jié)點(diǎn)是否在所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中包括:
根據(jù)該節(jié)點(diǎn)的父節(jié)點(diǎn)索引信息定位到所述父節(jié)點(diǎn)的節(jié)點(diǎn)信息;
從所述父節(jié)點(diǎn)的節(jié)點(diǎn)信息中讀取該父節(jié)點(diǎn)的操作屬性信息;
若該父節(jié)點(diǎn)的操作屬性信息為零值,則判定該父節(jié)點(diǎn)不在所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中;
若該父節(jié)點(diǎn)的操作屬性信息不為零值,則判定該父節(jié)點(diǎn)在所述網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D中。
6.根據(jù)權(quán)利要求1-5任一項(xiàng)所述的剪枝神經(jīng)網(wǎng)絡(luò)模型的方法,其特征在于,所述節(jié)點(diǎn)信息還包括通道數(shù)據(jù),所述通道數(shù)據(jù)包括輸入通道數(shù)據(jù)以及輸出通道數(shù)據(jù);所述剪枝結(jié)果包括可被剪枝的卷積層剪枝后的通道數(shù);
所述根據(jù)所述剪枝結(jié)果對(duì)所述模型結(jié)構(gòu)數(shù)據(jù)進(jìn)行修改包括:
將所述可被剪枝的卷積層對(duì)應(yīng)的節(jié)點(diǎn)的輸出通道數(shù)量修改為所述剪枝后的通道數(shù);
將所述可被剪枝的卷積層對(duì)應(yīng)的節(jié)點(diǎn)的所有子節(jié)點(diǎn)的輸入通道數(shù)量修改為所述剪枝后的通道數(shù)。
7.根據(jù)權(quán)利要求1所述的剪枝神經(jīng)網(wǎng)絡(luò)模型的方法,其特征在于,所述目標(biāo)神經(jīng)網(wǎng)絡(luò)模型的前端框架為MXNet框架,所述模型結(jié)構(gòu)數(shù)據(jù)為模型結(jié)構(gòu)的json數(shù)據(jù),所述獲取目標(biāo)神經(jīng)網(wǎng)絡(luò)模型的模型結(jié)構(gòu)數(shù)據(jù)包括:
調(diào)用所述MXNet框架的模型結(jié)構(gòu)函數(shù),以獲得所述目標(biāo)神經(jīng)網(wǎng)絡(luò)模型的模型結(jié)構(gòu)的json數(shù)據(jù)。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于廣州市百果園信息技術(shù)有限公司,未經(jīng)廣州市百果園信息技術(shù)有限公司許可,擅自商用是侵權(quán)行為。如果您想購(gòu)買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請(qǐng)聯(lián)系【客服】
本文鏈接:http://www.17sss.com.cn/pat/books/202010820874.7/1.html,轉(zhuǎn)載請(qǐng)聲明來源鉆瓜專利網(wǎng)。
- 基于直方圖獲取有效HMM的預(yù)剪枝方案
- 一種用于林業(yè)采伐的剪枝器械
- 一種語音識(shí)別或圖像識(shí)別中的卷積核處理方法及裝置
- 一種用于多段式可變幅剪枝裝置的多段剪枝部件
- 基于目標(biāo)檢測(cè)模型的剪枝方法、裝置和存儲(chǔ)介質(zhì)
- 一種卷積神經(jīng)網(wǎng)絡(luò)模型的剪枝方法及裝置
- 一種剪枝神經(jīng)網(wǎng)絡(luò)模型的方法和裝置
- 機(jī)器學(xué)習(xí)模型的剪枝方法、裝置、設(shè)備、程序產(chǎn)品及介質(zhì)
- 一種目標(biāo)圖像處理模型的確定方法、裝置及存儲(chǔ)介質(zhì)
- 一種卷積神經(jīng)網(wǎng)絡(luò)通用壓縮架構(gòu)的自動(dòng)剪枝方法及平臺(tái)
- 硬件神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法、計(jì)算裝置、軟硬件協(xié)作系統(tǒng)
- 生成較大神經(jīng)網(wǎng)絡(luò)
- 神經(jīng)網(wǎng)絡(luò)的生成方法、生成裝置和電子設(shè)備
- 一種舌診方法、裝置、計(jì)算設(shè)備及計(jì)算機(jī)存儲(chǔ)介質(zhì)
- 學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
- 脈沖神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換方法及相關(guān)轉(zhuǎn)換芯片
- 圖像處理方法、裝置、可讀存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備
- 一種適應(yīng)目標(biāo)數(shù)據(jù)集的網(wǎng)絡(luò)模型微調(diào)方法、系統(tǒng)、終端和存儲(chǔ)介質(zhì)
- 用于重構(gòu)人工神經(jīng)網(wǎng)絡(luò)的處理器及其操作方法、電氣設(shè)備
- 一種圖像神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化方法及裝置
- 一種數(shù)據(jù)庫(kù)讀寫分離的方法和裝置
- 一種手機(jī)動(dòng)漫人物及背景創(chuàng)作方法
- 一種通訊綜合測(cè)試終端的測(cè)試方法
- 一種服裝用人體測(cè)量基準(zhǔn)點(diǎn)的獲取方法
- 系統(tǒng)升級(jí)方法及裝置
- 用于虛擬和接口方法調(diào)用的裝置和方法
- 線程狀態(tài)監(jiān)控方法、裝置、計(jì)算機(jī)設(shè)備和存儲(chǔ)介質(zhì)
- 一種JAVA智能卡及其虛擬機(jī)組件優(yōu)化方法
- 檢測(cè)程序中方法耗時(shí)的方法、裝置及存儲(chǔ)介質(zhì)
- 函數(shù)的執(zhí)行方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)





