[發(fā)明專利]量化參數(shù)處理方法及裝置在審
| 申請?zhí)枺?/td> | 202011601317.2 | 申請日： | 2020-12-30 |
| 公開（公告）號： | CN112561083A | 公開（公告）日： | 2021-03-26 |
| 發(fā)明（設(shè)計）人： | 申偉強(qiáng);李驪 | 申請（專利權(quán)）人： | 北京華捷艾米科技有限公司 |
| 主分類號： | G06N20/00 | 分類號： | G06N20/00 |
| 代理公司： | 北京集佳知識產(chǎn)權(quán)代理有限公司 11227 | 代理人： | 王嬌嬌 |
| 地址： | 100193 北京市海淀*** | 國省代碼： | 北京;11 |
| 權(quán)利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 量化 參數(shù) 處理 方法 裝置 | ||
1.一種量化參數(shù)處理方法，其特征在于，包括：
獲取模型量化工具中包括的每個參數(shù)配置項、以及每個參數(shù)配置項對應(yīng)的所有量化參數(shù)；
將每個參數(shù)配置項對應(yīng)的各個量化參數(shù)進(jìn)行組合，得到多個量化參數(shù)組合；每個量化參數(shù)組合包括每個參數(shù)配置項中的任意一個量化參數(shù)；
獲取待量化浮點(diǎn)型模型；
針對每個量化參數(shù)組合，基于所述量化參數(shù)組合中的各個量化參數(shù)，調(diào)用所述模型量化工具對所述待量化浮點(diǎn)型模型進(jìn)行量化處理，得到所述量化參數(shù)組合對應(yīng)的量化模型；
計算每個量化參數(shù)組合對應(yīng)的量化模型的模型精度，并將目標(biāo)模型精度對應(yīng)的量化參數(shù)組合確定為目標(biāo)量化參數(shù)組合；所述目標(biāo)模型精度為各個模型精度中最高的或最低的模型精度。
2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述獲取模型量化工具中包括的每個參數(shù)配置項、以及每個參數(shù)配置項對應(yīng)的所有量化參數(shù)，包括：
獲取預(yù)先生成的配置文件；所述配置文件中預(yù)先存儲模型量化工具中包括的每個參數(shù)配置項、以及每個參數(shù)配置項對應(yīng)的所有量化參數(shù)；
對所述配置文件進(jìn)行解析，以獲得所述模型量化工具中包括的每個參數(shù)配置項、以及每個參數(shù)配置項對應(yīng)的所有量化參數(shù)。
3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于所述量化參數(shù)組合中的各個量化參數(shù)，調(diào)用所述模型量化工具對所述待量化浮點(diǎn)型模型進(jìn)行量化處理，得到所述量化參數(shù)組合對應(yīng)的量化模型，包括：
針對所述量化參數(shù)組合中的每個量化參數(shù)，確定所述模型量化工具中與所述量化參數(shù)對應(yīng)的寫入位置；
將所述量化參數(shù)組合中的每個量化參數(shù)寫入所述模型量化工具中與該量化參數(shù)對應(yīng)的寫入位置中，以觸發(fā)所述模型量化工具基于所述量化參數(shù)組合中的各個量化參數(shù)，對所述待量化浮點(diǎn)型模型進(jìn)行量化處理，得到所述量化參數(shù)組合對應(yīng)的量化模型。
4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述將每個參數(shù)配置項對應(yīng)的各個量化參數(shù)進(jìn)行組合，得到多個量化參數(shù)組合，包括：
從各個參數(shù)配置項中選取一個參數(shù)配置項作為第一參數(shù)配置項，并將各個參數(shù)配置項中除第一參數(shù)配置項外的每個參數(shù)配置項確定為第二參數(shù)配置項；
針對所述第一參數(shù)配置項對應(yīng)的每個量化參數(shù)，將所述量化參數(shù)與每個第二參數(shù)配置項對應(yīng)的每個量化參數(shù)進(jìn)行組合，得到所述量化參數(shù)對應(yīng)的多個量化參數(shù)組合。
5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述將目標(biāo)模型精度對應(yīng)的量化參數(shù)組合確定為目標(biāo)量化參數(shù)組合之后，還包括：
將每個量化參數(shù)組合，以及每個量化參數(shù)組合對應(yīng)的量化模型的模型精度對應(yīng)存儲至預(yù)先構(gòu)建的表格中。
6.根據(jù)權(quán)利要求5所述方法，其特征在于，還包括：
獲取所述待量化浮點(diǎn)型模型的模型精度；
將所述待量化浮點(diǎn)型模型的模型精度存儲至所述表格中。
7.一種量化參數(shù)處理裝置，其特征在于，包括：
第一獲取單元，用于獲取模型量化工具中包括的每個參數(shù)配置項、以及每個參數(shù)配置項對應(yīng)的所有量化參數(shù)；
組合單元，用于將每個參數(shù)配置項對應(yīng)的各個量化參數(shù)進(jìn)行組合，得到多個量化參數(shù)組合；每個量化參數(shù)組合包括每個參數(shù)配置項中的任意一個量化參數(shù)；
第二獲取單元，用于獲取待量化浮點(diǎn)型模型；
量化單元，用于針對每個量化參數(shù)組合，基于所述量化參數(shù)組合中的各個量化參數(shù)，調(diào)用所述模型量化工具對所述待量化浮點(diǎn)型模型進(jìn)行量化處理，得到所述量化參數(shù)組合對應(yīng)的量化模型；
確定單元，用于計算每個量化參數(shù)組合對應(yīng)的量化模型的模型精度，并將目標(biāo)模型精度對應(yīng)的量化參數(shù)組合確定為目標(biāo)量化參數(shù)組合；所述目標(biāo)模型精度為各個模型精度中最高的或最低的模型精度。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于北京華捷艾米科技有限公司，未經(jīng)北京華捷艾米科技有限公司許可，擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作，請聯(lián)系【客服】
本文鏈接：http://www.17sss.com.cn/pat/books/202011601317.2/1.html，轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
