[發明專利]基于自監督學習的標簽比例學習模型的訓練方法和設備在審
| 申請號： | 202010067820.8 | 申請日： | 2020-01-20 |
| 公開（公告）號： | CN113139651A | 公開（公告）日： | 2021-07-20 |
| 發明（設計）人： | 劉佳斌;林宙辰 | 申請（專利權）人： | 北京三星通信技術研究有限公司;三星電子株式會社 |
| 主分類號： | G06N3/08 | 分類號： | G06N3/08;G06N3/04;G06K9/62;G06F16/56;G06F16/58 |
| 代理公司： | 北京市柳沈律師事務所 11105 | 代理人： | 錢大勇 |
| 地址： | 100028 北京市朝*** | 國省代碼： | 北京;11 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 基于 監督 學習 標簽 比例 模型 訓練 方法 設備 | ||
1.一種標簽比例學習模型的訓練方法，所述訓練方法包括：
訓練數據接收步驟，接收用于標簽比例學習的弱監督訓練數據；
監督信息構建步驟，基于所述弱監督訓練數據來構建監督信息；以及
訓練步驟，通過基于多任務構建的損失函數、采用所述弱監督訓練數據和所述監督信息來訓練所述標簽比例學習模型，
其中，所述基于多任務構建的損失函數為對應于所述弱監督訓練數據的弱監督損失函數與對應于所述監督信息的自監督損失函數的加權和。
2.如權利要求1所述的訓練方法，其中，所述訓練步驟還包括：
通過基于第一參數的特征提取函數，對所述弱監督訓練數據和所述監督信息進行特征提取。
3.如權利要求2所述的訓練方法，其中，
基于所述第一參數、所述弱監督訓練數據和特定于所述弱監督訓練數據的第二參數來構建所述弱監督損失函數；以及
基于所述第一參數、所述監督信息和特定于所述自監督訓練數據的第三參數來構建所述弱監督損失函數。
4.如權利要求3所述的訓練方法，其中，所述訓練步驟還包括：
同時更新所述第一參數、所述第二參數和所述第三參數。
5.如權利要求1所述的訓練方法，還包括：
每當針對全部弱監督訓練數據完成一次訓練時，則對所述監督信息進行洗牌。
6.如權利要求1所述的訓練方法，其中，所述監督信息構建步驟包括：
通過去除所述弱監督訓練數據中的比例信息來獲取無監督數據；以及
基于所述無監督數據通過自監督方式來構建所述監督信息。
7.如權利要求6所述的訓練方法，其中，所述自監督方式之一為矩陣變換。
8.如權利要求1至權利要求7中的任一項所述的訓練方法，其中，所述弱監督損失函數之一是基于比例的交叉熵損失函數。
9.如權利要求1所述的訓練方法，其中，所述基于多任務構建的損失函數中的權重用于控制所述弱監督損失函數與所述自監督損失函數的相對重要性。
10.一種用于圖像處理的標簽比例學習模型的訓練方法，所述訓練方法包括：
訓練圖像集接收步驟，接收用于標簽比例學習的弱監督訓練圖像集；
監督信息集構建步驟，基于所述弱監督訓練圖像集來構建監督信息；以及
訓練步驟，通過基于多任務構建的損失函數、采用所述弱監督訓練圖像集和所述監督信息來訓練所述標簽比例學習模型，
其中，所述基于多任務構建的損失函數為對應于所述弱監督訓練圖像集的弱監督損失函數與對應于所述監督信息的自監督損失函數的加權和。
11.如權利要求10所述的訓練方法，其中，所述監督信息構建步驟包括：
通過去除所述弱監督訓練圖像集中的比例信息來獲取無監督圖像集；以及
基于所述無監督圖像集通過自監督方式來構建所述監督信息。
12.如權利要求11所述的訓練方法，其中，所述自監督方式之一為旋轉法。
13.一種電子設備，包括：
處理器；以及
存儲器，用于存儲計算機程序指令；
其中，當所述計算機程序指令由所述處理器加載并運行時，所述處理器執行如權利要求1至權利要求9或權利要求10至權利要求12中的任一項所述的訓練方法。
14.一種計算機可讀存儲介質，其上存儲有計算機程序指令，當所述計算機程序指令由所述處理器加載并運行時，執行如權利要求1至權利要求9或權利要求10至權利要求12中的任一項所述的訓練方法。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于北京三星通信技術研究有限公司;三星電子株式會社，未經北京三星通信技術研究有限公司;三星電子株式會社許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.17sss.com.cn/pat/books/202010067820.8/1.html，轉載請聲明來源鉆瓜專利網。
