群卷積

群卷積的目的是通過將特征信道劃分為多個不同的組，然后分別對每個組進行卷積，從而減少卷積層中參數(shù)的數(shù)量，如上圖（d）所示。如果我們將特征信道平均分成m組，不改變其他構型，理論上卷積的計算復雜度將會降低到原來的1／m。

深度可分離卷積

上圖（e）所示的深度可分離卷積是近年來流行的一種構建輕量級卷積網(wǎng)絡的方法，當組數(shù)等于信道數(shù)時，可以將它看作是群卷積的一個特例［4］。

假設我們有一個帶有d個濾波器的卷積層和一個 c 通道的特征圖，每個濾波器的大小為 k×k 。對于深度可分卷積，每個 k×k×c 濾波器首先被分割成 c 個片，每個片的大小為 k×k×1 ，然后在每個通道中對濾波器的每個片分別進行卷積。最后，一些 1x1 濾波器用于進行維度轉換，以便最終的輸出應該具有 d 通道。利用深度可分卷積，將計算復雜度從O（dk＾2c）降低到O（ck＾2）＋O（dc）。該思想最近被應用于目標檢測和細粒度分類（Fine－grain classification）。

瓶頸設計

神經(jīng)網(wǎng)絡中的瓶頸層與前一層相比只包含很少的節(jié)點，它可以用來學習降維輸入的高效數(shù)據(jù)編碼，這在深度自編碼中得到了廣泛的應用。近年來，瓶頸設計被廣泛應用于輕量化網(wǎng)絡的設計［5］［6］。在這些方法中，一種常見的方法是壓縮檢測器的輸入層，以減少從檢測管道開始的計算量［5］。另一種方法是壓縮檢測引擎的輸出，使特征圖變薄，使其在后續(xù)檢測階段更加高效［6］。

神經(jīng)結構搜索

近年來，人們對利用神經(jīng)結構搜索 （ NAS ） 自動設計網(wǎng)絡體系結構而不是依賴于專家經(jīng)驗和知識產(chǎn)生了濃厚的興趣。NAS 已應用于大規(guī)模圖像分類［7］，目標檢測［8］和圖像分割任務［9］。NAS 最近在設計輕量級網(wǎng)絡方面也顯示出了很好的結果，其中在搜索過程中考慮了預測精度和計算復雜度的限制［10］。

數(shù)值加速技術

我們簡要介紹在目標檢測中經(jīng)常使用的兩種數(shù)值加速技術：1） 頻域加速，2） 降階近似。

頻域加速

卷積是目標檢測中的一種重要的數(shù)值運算形式。由于線性檢測器的檢測可以看作是特征圖與檢測器權值之間的窗口內積，因此該過程可以通過卷積來實現(xiàn)。

有很多方法可以加速卷積運算，其中傅里葉變換是一個非常實用的選擇，尤其是對于加速那些大的濾波器。頻域加速卷積的理論基礎是信號處理中的卷積定理，即在合適的條件下，兩個信號卷積的傅里葉變換是其傅里葉空間的點乘：

其中，

是傅里葉變換，

是傅里葉反變換，I和W是輸入圖像和濾波器，＊是卷積運算，

是點乘運算。利用快速傅里葉變換 （Fast Fourier Transform，F(xiàn)FT）和快速傅里葉反變換 （Inverse Fast Fourier Transform，IFFT）可以加速上述計算。FFT 和 IFFT 現(xiàn)在經(jīng)常被用來加速 CNN 模型和一些經(jīng)典的線性目標檢測器，這使得檢測速度提高了一個數(shù)量級。下圖為在頻域中加速線性目標檢測器的標準傳輸途徑（如 HOG 和 DPM）。

降階近似

在深度網(wǎng)絡中，全連接層的計算本質上是兩個矩陣的乘法。當參數(shù)矩陣

較大時，檢測器的計算量較大。例如在Fast RCNN檢測器中，將近一半的前向傳遞時間用于計算全連接層。降秩近似是一種加速矩陣乘法的方法。它的目的是對矩陣W進行低秩分解：

其中U是由W的前t列左奇異向量構成的

型矩陣，

是一個包含W前t個奇異值的

對角矩陣，V是由W的前t行右奇異向量構成的

矩陣。上述過程也稱為截斷 SVD（Truncated SVD），將參數(shù)從

減少到

個，當t遠小于

時效果顯著。截斷 SVD 可以2倍的效率加速 Fast RCNN 檢測器。