[發明專利]基于通道增強的雙注意力生成對抗網絡及圖像生成方法在審
| 申請號: | 202011470128.6 | 申請日: | 2020-12-14 |
| 公開(公告)號: | CN112580782A | 公開(公告)日: | 2021-03-30 |
| 發明(設計)人: | 羅健旭;岳丹陽 | 申請(專利權)人: | 華東理工大學 |
| 主分類號: | G06N3/04 | 分類號: | G06N3/04;G06N3/08;G06T1/00 |
| 代理公司: | 北京格允知識產權代理有限公司 11609 | 代理人: | 張莉瑜 |
| 地址: | 200237 *** | 國省代碼: | 上海;31 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 基于 通道 增強 注意力 生成 對抗 網絡 圖像 方法 | ||
本發明涉及一種基于通道增強的雙注意力生成對抗網絡及圖像生成方法,該網絡包括生成器和判別器;生成器包括卷積塊一和雙注意力機制模塊;判別器包括卷積塊二和雙注意力機制模塊;卷積塊一、卷積塊二中均設有用于通過壓縮激活操作獲取通道注意力的壓縮激活操作層;雙注意力機制模塊包括并行的位置注意力單元與通道注意力單元;位置注意力單元基于自注意力機制建立位置間關聯性,得到位置注意力特征,通道注意力單元基于通道注意力機制建立特征通道間依賴性,得到通道注意力特征;雙注意力機制模塊融合位置注意力特征和通道注意力特征。本發明能夠提升生成對抗網絡的生成性能,生成的數據分布更接近于原始數據分布,生成圖像質量更好。
技術領域
本發明涉及圖像生成技術領域,尤其涉及一種基于通道增強的雙注意力生成對抗網絡及圖像生成方法。
背景技術
生成對抗網絡(GAN)技術主要應用于圖像生成方向。生成對抗網絡模型由生成器和判別器構成,其中,生成器根據輸入噪聲向量或類別標簽可以生成圖像,判別器用于判別圖像的真假,生成器和判別器對抗訓練使得生成器學習真實數據分布,最終生成器可以接近真實圖像的偽造圖像。生成對抗網絡技術廣泛應用于圖像增強、紅外圖像生成、醫學圖像生成、圖像超分辨重建等方向。
目前,提升生成對抗網絡模型生成圖像質量的主要方法有修改網絡結構、更改損失函數、建立特征空間關聯性。自注意力生成對抗網絡模型中使用了能夠獲取大范圍空間關聯性的自注意力機制,使得生成圖像的結構更加合理。BigGAN模型在自注意力生成對抗網絡的基礎上,對生成對抗網絡結構進行調整加深,提高了網絡學習能力,使得生成質量得到進一步提升。
雖然目前的GAN生成能力已經很強,但是在先驗知識少的情況下,僅使用噪聲向量z和條件標簽y來生成相應類別的、具有大范圍關聯性的復雜場景的圖像還是存在一定的難度?,F有的GAN模型很難生成具有復雜結構分布的圖像。自注意力機制雖然使得生成對抗網絡能夠生成具有大范圍相關性的圖像,但是生成圖像中的目標物體結構還存在著一些缺陷。同時,對于包含多目標物體場景的圖像很難生成,生成圖像的質量也有待提高。
發明內容
本發明的目的是針對上述至少一部分不足之處,提供一種能夠針對復雜場景,生成高質量圖像的生成對抗網絡模型,同時使得生成圖像中的目標的結構分布更加合理,圖像更加自然。
為了實現上述目的,本發明提供了一種基于通道增強的雙注意力生成對抗網絡,包括:
生成器和判別器;所述生成器包括卷積塊一和雙注意力機制模塊;所述判別器包括卷積塊二和雙注意力機制模塊;
其中,卷積塊一、卷積塊二中均設有用于通過壓縮激活操作獲取通道注意力的壓縮激活操作層;
所述雙注意力機制模塊包括并行的位置注意力單元與通道注意力單元;所述位置注意力單元基于自注意力機制建立位置間關聯性,得到位置注意力特征,所述通道注意力單元基于通道注意力機制建立特征通道間依賴性,得到通道注意力特征;所述雙注意力機制模塊融合位置注意力特征和通道注意力特征。
優選地,所述壓縮激活操作層用于執行如下操作:
將特征M每層取平均,壓縮成一個值,得到一維向量s,表達式為:
其中,特征M的層數為C,每層尺寸為H×W,sn表示一維向量s的第n個元素,mn表示特征M的第n層,n=1,...,C,mni,j表示mn中坐標為(i,j)的元素;
將一維向量s經兩層非線性全連接網絡學習進行激活,得到具有每層權重比例的權重特征向量w,表達式為:
w=σ2(W2σ1(W1s))
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于華東理工大學,未經華東理工大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.17sss.com.cn/pat/books/202011470128.6/2.html,轉載請聲明來源鉆瓜專利網。
- 上一篇:一種吸氣式感煙探測器故障定位系統及方法
- 下一篇:一種皮革制品邊緣裁切設備





