像我們在上面看到的一樣，過濾器或者說權值矩陣，在整個圖像范圍內一次移動一個像素。我們可以把它定義成一個超參數（hyperparameter），從而來表示我們想讓權值矩陣在圖像內如何移動。如果權值矩陣一次移動一個像素，我們稱其步長為 1。下面我們看一下步長為 2 時的情況。

你可以看見當我們增加步長值的時候，圖像的規格持續變小。在輸入圖像四周填充 0 邊界可以解決這個問題。我們也可以在高步長值的情況下在圖像四周填加不只一層的 0 邊界。

我們可以看見在我們給圖像填加一層 0 邊界后，圖像的原始形狀是如何被保持的。由于輸出圖像和輸入圖像是大小相同的，所以這被稱為 same padding。

這就是 same padding（意味著我們僅考慮輸入圖像的有效像素）。中間的 4*4 像素是相同的。這里我們已經利用邊界保留了更多信息，并且也已經保留了圖像的原大小。

多過濾與激活圖

需要記住的是權值的縱深維度（depth dimension）和輸入圖像的縱深維度是相同的。權值會延伸到輸入圖像的整個深度。因此，和一個單一權值矩陣進行卷積會產生一個單一縱深維度的卷積化輸出。大多數情況下都不使用單一過濾器（權值矩陣），而是應用維度相同的多個過濾器。

每一個過濾器的輸出被堆疊在一起，形成卷積圖像的縱深維度。假設我們有一個 32*32*3 的輸入。我們使用 5*5*3，帶有 valid padding 的 10 個過濾器。輸出的維度將會是 28*28*10。

如下圖所示：

激活圖是卷積層的輸出。

池化層

有時圖像太大，我們需要減少訓練參數的數量，它被要求在隨后的卷積層之間周期性地引進池化層。池化的唯一目的是減少圖像的空間大小。池化在每一個縱深維度上獨自完成，因此圖像的縱深保持不變。池化層的最常見形式是最大池化。

在這里，我們把步幅定為 2，池化尺寸也為 2。最大化執行也應用在每個卷機輸出的深度尺寸中。正如你所看到的，最大池化操作后，4*4 卷積的輸出變成了 2*2。

讓我們看看最大池化在真實圖片中的效果如何。

正如你看到的，我們卷積了圖像，并最大池化了它。最大池化圖像仍然保留了汽車在街上的信息。如果你仔細觀察的話，你會發現圖像的尺寸已經減半。這可以很大程度上減少參數。

同樣，其他形式的池化也可以在系統中應用，如平均池化和 L2 規范池化。

輸出維度

理解每個卷積層輸入和輸出的尺寸可能會有點難度。以下三點或許可以讓你了解輸出尺寸的問題。有三個超參數可以控制輸出卷的大小。

1. 過濾器數量-輸出卷的深度與過濾器的數量成正比。請記住該如何堆疊每個過濾器的輸出以形成激活映射。激活圖的深度等于過濾器的數量。
2. 步幅（Stride）-如果步幅是 1，那么我們處理圖片的精細度就進入單像素級別了。更高的步幅意味著同時處理更多的像素，從而產生較小的輸出量。
3. 零填充（zero padding）-這有助于我們保留輸入圖像的尺寸。如果添加了單零填充，則單步幅過濾器的運動會保持在原圖尺寸。

我們可以應用一個簡單的公式來計算輸出尺寸。輸出圖像的空間尺寸可以計算為（[W-F + 2P] / S）+1。在這里，W 是輸入尺寸，F 是過濾器的尺寸，P 是填充數量，S 是步幅數字。假如我們有一張 32*32*3 的輸入圖像，我們使用 10 個尺寸為 3*3*3 的過濾器，單步幅和零填充。

那么 W=32，F=3，P=0，S=1。輸出深度等于應用的濾波器的數量，即 10，輸出尺寸大小為 ([32-3+0]/1)+1 = 30。因此輸出尺寸是 30*30*10。

輸出層

在多層卷積和填充后，我們需要以類的形式輸出。卷積和池化層只會提取特征，并減少原始圖像帶來的參數。然而，為了生成最終的輸出，我們需要應用全連接層來生成一個等于我們需要的類的數量的輸出。僅僅依靠卷積層是難以達到這個要求的。卷積層可以生成 3D 激活圖，而我們只需要圖像是否屬于一個特定的類這樣的內容。輸出層具有類似分類交叉熵的損失函數，用于計算預測誤差。一旦前向傳播完成，反向傳播就會開始更新權重與偏差，以減少誤差和損失。

4. 小結