本發明公開了一種改進的滑動式分組卷積神經網絡，在總通道里取第一個通道到第G個通道為第一組輸入進行卷積，經過卷積操作后輸出S個通道，接著，以第一組輸入長度G在總通道上進行滑動，S作為滑動的步長，第二組卷積的輸入為總通道數的第S+1個通道到第S+G，總共仍是G個通道作為一組輸入進行卷積操作，并輸出S個通道，以此類推；特別之處在于，后一組輸入通道的前G?S個通道與前一組輸入通道的后G?S個通道是共享的，每組之間都按照這種關系來進行信息交流。本發明進一步解決了神經網絡參數復雜度過高的問題，且測試準確度有所提高。本發明是一種結合全精度高效神經網絡的算法硬件協同壓縮方法，并且降低了硬件資源消耗。

技術領域

本發明涉及圖像處理技術領域，尤其是一種改進的滑動式分組卷積神經網絡。

背景技術

卷積神經網絡(CNN)由人工神經網絡發展而來，獨特的權值共享的結構減小了網絡的規模，更容易訓練。由于圖像平移、縮放和旋轉的不變性，卷積神經網絡廣泛應用于圖像識別領域。卷積神經網絡對圖像的平移、縮放、旋轉等形式的變形具有高度的適應性，在圖像識別和目標檢測等領域應用廣泛，如微軟利用卷積神經網絡做阿拉伯文和中文的手寫識別系統，谷歌使用卷積神經網絡來識別街景圖片中的人臉和車牌等等。

CNN的性能正在迅速提高：ImageNet挑戰的獲勝者將分類準確率開始的84.7％(AlexNet)提高到96.5％(ResNet-152)。然而，精度的提高是以高計算復雜度為代價的。例如，AlexNet需要1.4×10¹⁰FLOPs來處理單個224×224圖像，ResNet-152需要2.26×10¹¹FLOPs。在移動嵌入式設備端，一個最主要的挑戰在于大量的運算需要過多的硬件資源并且功耗巨大。

為了解決與計算能力相關的這一系列問題，已經有大量的研究試圖優化它們的性能。這些研究工作方法可以分為兩種：使用預先訓練的模型壓縮現有網絡結構，以及設計新的高效的網絡結構，這些結構將從頭開始訓練。

模型壓縮方法通常基于傳統的壓縮技術，如哈希(hashing)、赫夫曼編碼(Huffmancoding)、因式分解(factorization)、剪枝(pruning)和模型量化(quantization)。

實際上，第二種方法比第一種方法更早地被研究。GoogLeNet中提出了Inception模塊，希望在不增加模型大小和計算成本的情況下構建更深的網絡結構，然后在Inception模塊中通過分解卷積進一步改進。深度可分離卷積(Depthwise separable Convolution，DWConvolution)更加體現因式分解的思想，將標準卷積分解為深度卷積(depthwiseconvolution)，再用1×1卷積核進行常規卷積。MobileNet為基于DW Convolution的移動設備設計了卷積神經網絡，該操作能夠以較少的參數獲得了較好的結果。

發明內容

發明目的：本發明的目的在于解決現有的卷積神經網絡，計算精度的提升必然導致系統的計算復雜度提高，進一步地，大量的運算需要過多的硬件資源并且功耗巨大的問題

技術方案：為解決上述問題，本發明采用以下技術方案：

一種改進的滑動式分組卷積神經網絡，包括以下步驟：

(1)將總通道分為N個分組，對輸入的全部通道按照兩個參數G和S來進行分組卷積，在全部通道中取第一個通道到第G個通道為第一個組的輸入進行卷積，這一組中包含G個通道，經過卷積操作之后輸出S個通道，接下來在總通道上進行滑動操作，以S作為滑動的步長，然后第二組卷積操作的的輸入為總通道數的第S+1個通道到第S+G，依舊是G個通道作為第二組輸入進行卷積操作，并且輸出S個通道，以此類推；若最后組剩余的總通道數不足G個，則從位于總通道開頭部分的通道繼續取，直到最后一組的輸入通道數到達G個為止；