PyTorch正菜-卷积（一）

博主：理想家
发布时间：2024 年 08 月 01 日
146 次浏览
暂无评论
8026字数
分类：分享

## 引言

在当今的科技时代，刷脸支付等应用场景越来越多，相信人脸识别技术你一定不陌生。那么，你有没有想过，在计算机识别人脸之前，我们人类是如何判断一个人是谁的呢？

当我们用眼睛看到人脸时，大脑会先提取一些粗粒度特征，例如人脸的轮廓、头发的颜色和长度等。这些信息会逐层传递到某些神经元，每经过一层神经元就相当于完成了一次特征提取。最终，我们的大脑会将这些特征汇总，生成一张具体的人脸图像，然后与记忆中的人名进行匹配。

![](https://asenser.cn/usr/uploads/2024/08/2133991273.jpg)

对于计算机来说，这个过程是类似的。在计算机中，进行特征提取的功能离不开卷积这一概念。没有卷积的话，深度学习在图像领域不可能取得今天的成就。那么，什么是卷积呢？在这篇博客中，我们将深入探讨卷积的概念，并在PyTorch中实现它。

卷积神经网络（Convolutional Neural Network，简称CNN）的出现，带来了图像识别领域的革命。CNN凭借其稀疏连接和平移不变性两大特点，使得计算机视觉研究取得了长足的进步。接下来，我们将详细介绍这些特点，并逐步展示如何在PyTorch中实现卷积操作。

---

## 卷积基础知识

### 人类如何识别人脸

当我们看到一张人脸时，我们的大脑会迅速提取出一些重要的特征，例如脸部的轮廓、眼睛的位置、鼻子的形状以及嘴巴的大小。这些特征帮助我们快速识别并记住一个人。这一过程其实是我们大脑中神经元层层传递、汇总特征的结果。

首先，我们的眼睛会捕捉到人脸的一些粗粒度特征，如整体轮廓和主要颜色。这些初级特征会传递到大脑的特定神经元，每一层神经元都会进一步处理和提取更详细的特征，例如眼睛的形状、鼻子的宽度等。最终，这些特征会汇总成一张完整的脸部图像，与记忆中的图像进行匹配，从而识别出这个人。

### 卷积的定义和重要性

在计算机视觉中，我们希望模拟人类识别过程，让计算机也能通过提取特征来识别图像中的物体。卷积就是实现这一目标的关键技术。卷积操作通过卷积核（也称为滤波器）在图像上滑动，逐步提取出不同层次的特征。

卷积（Convolution）是一个数学运算，涉及到两个函数之间的乘积和求和。在图像处理中，卷积操作可以看作是一个小窗口在图像上滑动，对窗口覆盖的区域进行加权求和，从而提取局部特征。通过多层卷积操作，计算机会逐渐提取出更加抽象和高层次的特征。

卷积的两个主要特点——稀疏连接和平移不变性，使得它在图像处理中尤为重要。稀疏连接意味着每个卷积核只处理输入图像的一小部分，这大大减少了参数量，提高了计算效率。平移不变性则意味着卷积操作能够在图像的不同位置识别相同的特征，这对于处理具有变化的图像非常有用。

总之，卷积是深度学习中处理图像问题的核心技术。没有卷积，现代的计算机视觉技术将无法达到如今的水平。在接下来的小节中，我们将通过具体的示例来详细讲解卷积的计算过程。

---

### 卷积神经网络的关键特性

卷积神经网络（Convolutional Neural Networks，简称CNN）在图像识别中取得了巨大成功，主要归功于其两个关键特性：稀疏连接和平移不变性。这些特性使得CNN在处理图像数据时既高效又准确。

#### 稀疏连接

稀疏连接是指卷积层中的每个卷积核只与输入图像的一小部分进行连接和运算。这与传统的全连接神经网络形成鲜明对比，后者每个神经元都与前一层的所有神经元相连接。稀疏连接带来了两个主要优势：

1. **参数减少**：由于每个卷积核只需要处理局部区域，参数量大大减少。这不仅降低了计算和存储的需求，还减少了过拟合的风险，提高了模型的泛化能力。
2. **局部特征提取**：稀疏连接使得卷积核能够专注于图像的局部特征，例如边缘、角点等。这些局部特征在后续的层中会逐步组合成更高层次、更抽象的特征，从而实现对整个图像的理解。

#### 平移不变性

平移不变性是指卷积神经网络对图像的某些变化具有鲁棒性，特别是平移。换句话说，当图像中的物体发生平移时，CNN仍然能够正确识别它们。这一特性主要来源于卷积操作和池化层的组合：

1. **卷积操作**：通过在图像上滑动卷积核，CNN可以捕捉到物体在不同位置的特征。因此，无论物体出现在图像的哪个位置，卷积核都能检测到相同的特征。
2. **池化层**：池化层通过下采样操作（如最大池化或平均池化）进一步增强了平移不变性。它将特征图的大小缩小，但保留了重要特征，从而忽略了位置的微小变化。

#### 重要性

这些特性使得卷积神经网络在处理图像和视频数据时具有显著优势：

- **高效处理高维数据**：稀疏连接大大降低了计算复杂度，使得CNN能够高效处理高分辨率的图像和长时间的视频。
- **鲁棒性强**：平移不变性使得CNN对图像中的物体位置变化不敏感，从而提高了识别的准确性。
- **自动特征提取**：通过多层卷积和池化操作，CNN能够自动提取和组合图像的多层次特征，而无需人工设计特征提取算法。

总结来说，稀疏连接和平移不变性是卷积神经网络的两个核心特性，这些特性使得CNN在计算机视觉任务中表现出色。在接下来的小节中，我们将通过具体的计算示例来进一步理解卷积操作的细节。

---

## 最简单的卷积示例

为了更好地理解卷积操作，我们从一个简单的例子开始。假设输入是一个3x3的特征图，卷积核的大小为2x2。通过这个简单的示例，我们可以直观地看到卷积核如何在特征图上滑动并计算输出特征图。

![](https://asenser.cn/usr/uploads/2024/08/3545537619.jpg)

### 输入特征图与卷积核

首先，我们定义一个4x4的输入特征图和一个2x2的卷积核：

```
输入特征图：
[
 [1, 2, 3],
 [4, 5, 6],
 [7, 8, 9]
]

卷积核：
[
 [0, 1],
 [2, 3]
]
```

### 卷积计算步骤

卷积核将在输入特征图上滑动，逐个计算输出特征图的元素。计算方式是卷积核与输入特征图对应位置的元素相乘并求和。

1. **计算输出特征图的第一个元素：**

卷积核在输入特征图的左上角位置：

```
   0*1 + 1*2 + 2*4 + 3*5 = 25
   ```

因此，输出特征图的第一个元素是24。
2. **继续滑动卷积核，计算第二个元素：**

卷积核向右滑动一个单元：

```
   0*2 + 1*3 + 2*5 + 3*6 = 31
   ```

输出特征图的第二个元素是31。
3. **向下滑动卷积核，计算第三个元素：**

卷积核回到行首并向下滑动一个单元：

```
   0*4 + 1*5 + 2*7 + 3*8 = 43
   ```

输出特征图的第三个元素是43。

依此类推，继续计算剩余的元素，完整的输出特征图如下：

```
输出特征图：
[
 [25, 31],
 [43, 49]
]
```

### 步长和填充

在上述例子中，步长（stride）为1，即卷积核每次滑动一个单元。在实际应用中，我们可以选择不同的步长，例如步长为2时，卷积核每次滑动两个单元，这会减少输出特征图的尺寸。

![](https://asenser.cn/usr/uploads/2024/08/870921372.jpg)

此外，我们还可以使用填充（padding）来在输入特征图的边缘添加额外的像素，这样可以保持输出特征图的尺寸与输入特征图相同。在PyTorch中，我们可以轻松地调整步长和填充，以适应不同的应用需求。

![](https://asenser.cn/usr/uploads/2024/08/4247458545.jpg)

通过这个简单的卷积示例，我们可以看到卷积核如何在特征图上滑动并计算输出特征图。在接下来的小节中，我们将介绍标准卷积操作及其在多通道输入和输出中的应用。

---

## 标准卷积操作

在前一小节中，我们介绍了一个简单的卷积示例，其中输入特征图和卷积核都只有一个通道。然而，在实际应用中，卷积神经网络通常处理多通道的输入和输出。接下来，我们将详细探讨标准卷积操作，并解释多通道情况下的卷积计算方式。

### 多通道卷积

多通道输入特征图意味着每个输入图像可能有多个通道，例如彩色图像通常有红、绿、蓝（RGB）三个通道。类似地，卷积核也会有多个通道，每个卷积核会与输入特征图的每个通道进行卷积运算，然后将结果相加得到最终的输出特征图。

假设我们有一个输入特征图，其大小为 $ $m \times h \times w$ $，即有 $ m $ 个通道，每个通道的高度为 $ h $，宽度为 $ w $。我们使用 $ n $ 个卷积核，每个卷积核的大小为 $ $m \times k \times k$ $，即每个卷积核有 $ m $ 个通道，每个通道的大小为 $ $k \times k$ $。

### 卷积计算示例

为了更好地理解多通道卷积，我们来看一个具体的例子：

- 输入特征图大小为 $$ 2 \times 4 \times 4$ $（2 个通道，每个通道为 4x4）
- 卷积核大小为 $$ 2 \times 2 \times 2$ $（2 个通道，每个通道为 2x2）
- 我们使用 3 个卷积核，因此输出特征图有 3 个通道

我们假设输入特征图的两个通道分别为：

```
输入特征图（通道 1）：
[
 [1, 2, 3, 0],
 [4, 5, 6, 1],
 [7, 8, 9, 2],
 [0, 1, 2, 3]
]

输入特征图（通道 2）：
[
 [0, 1, 2, 3],
 [1, 2, 3, 4],
 [2, 3, 4, 5],
 [3, 4, 5, 6]
]
```

卷积核的两个通道分别为：

```
卷积核（通道 1）：
[
 [1, 0],
 [0, 1]
]

卷积核（通道 2）：
[
 [0, 1],
 [1, 0]
]
```

卷积核与输入特征图的第一个通道进行卷积，结果为：

```
卷积核与通道 1 卷积：
[
 [(1*1 + 2*0 + 4*0 + 5*1), (2*1 + 3*0 + 5*0 + 6*1), (3*1 + 0*0 + 6*0 + 1*1)],
 [(4*1 + 5*0 + 7*0 + 8*1), (5*1 + 6*0 + 8*0 + 9*1), (6*1 + 1*0 + 9*0 + 2*1)],
 [(7*1 + 8*0 + 0*0 + 1*1), (8*1 + 9*0 + 1*0 + 2*1), (9*1 + 2*0 + 2*0 + 3*1)]
]
```

简化后结果为：

```
[
 [6, 8, 4],
 [12, 14, 6],
 [16, 18, 8]
]
```

接着，卷积核与输入特征图的第二个通道进行卷积，结果为：

```
卷积核与通道 2 卷积：
[
 [(0*0 + 1*1 + 1*1 + 2*0), (1*0 + 2*1 + 2*1 + 3*0), (2*0 + 3*1 + 3*1 + 4*0)],
 [(1*0 + 2*1 + 2*1 + 3*0), (2*0 + 3*1 + 3*1 + 4*0), (3*0 + 4*1 + 4*1 + 5*0)],
 [(2*0 + 3*1 + 3*1 + 4*0), (3*0 + 4*1 + 4*1 + 5*0), (4*0 + 5*1 + 5*1 + 6*0)]
]
```

简化后结果为：

```
[
 [2, 4, 6],
 [4, 6, 8],
 [6, 8, 10]
]
```

最后，将两个卷积结果相加得到输出特征图的一个通道：

```
[
 [8, 12, 10],
 [16, 20, 14],
 [22, 26, 18]
]
```

通过这种方式，卷积神经网络可以处理多通道的输入，并生成多通道的输出特征图。

### 卷积核和特征图的关系图解

为了更好地理解上述过程，可以参考下图的关系图解：

![](https://asenser.cn/usr/uploads/2024/08/3916968514.jpg)

输出特征图上每个点的数值，是由输入图片上大小为$𝑘_ℎ×𝑘_𝑤$的区域的元素与卷积核每个元素相乘再相加得到的，所以输入图像上$𝑘_ℎ×𝑘_𝑤$区域内每个元素数值的改变，都会影响输出点的像素值。我们将这个区域叫做输出特征图上对应点的感受野。感受野内每个元素数值的变动，都会影响输出点的数值变化

通过这个图解，我们可以更清晰地看到卷积核如何与输入特征图的各个通道进行卷积运算，并最终合成输出特征图。

在理解了标准卷积操作之后，接下来我们将介绍如何在PyTorch中实现这些卷积操作。

---

## 在PyTorch中实现卷积

PyTorch 是一个广泛使用的深度学习框架，它提供了强大的功能来实现和训练卷积神经网络。在本小节中，我们将介绍如何在 PyTorch 中定义卷积层，并通过示例代码展示卷积操作的实现。最后，我们会讨论一些在实际应用中需要注意的事项。

### PyTorch 中卷积层的定义

在 PyTorch 中，卷积层由 `torch.nn.Conv2d` 类定义。这个类包含了卷积操作所需的所有参数，如输入和输出通道数、卷积核大小、步长和填充等。

定义一个卷积层的基本语法如下：

```python
import torch
import torch.nn as nn

# 定义一个卷积层
conv_layer = nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0)
```

- `in_channels`：输入特征图的通道数。
- `out_channels`：输出特征图的通道数。
- `kernel_size`：卷积核的大小，可以是单个整数（表示方形卷积核）或元组（表示不同的高度和宽度）。
- `stride`：步长，默认为 1。
- `padding`：填充，默认为 0。

### 示例代码讲解

我们通过一个简单的示例来演示如何在 PyTorch 中使用卷积层。假设我们有一个形状为 $$1 \times 4 \times 4$$ 的单通道输入特征图，我们将应用一个形状为 $$1 \times 2 \times 2$$ 的卷积核，并生成一个输出特征图。

```python
import torch
import torch.nn as nn
import torch.nn.functional as F

# 定义输入特征图
input_feature_map = torch.tensor([[[[1, 2, 3, 0],
                                    [4, 5, 6, 1],
                                    [7, 8, 9, 2],
                                    [0, 1, 2, 3]]]], dtype=torch.float32)

# 定义卷积层
conv_layer = nn.Conv2d(in_channels=1, out_channels=1, kernel_size=2, stride=1, padding=0)

# 手动设置卷积核权重
conv_layer.weight = nn.Parameter(torch.tensor([[[[1, 0],
                                                 [0, 1]]]], dtype=torch.float32))

# 手动设置偏置为0
conv_layer.bias = nn.Parameter(torch.tensor([0.0]))

# 应用卷积层
output_feature_map = conv_layer(input_feature_map)

print("输入特征图：")
print(input_feature_map)
print("输出特征图：")
print(output_feature_map)
```

运行上述代码，输出将是：

```
输入特征图：
tensor([[[[1., 2., 3., 0.],
          [4., 5., 6., 1.],
          [7., 8., 9., 2.],
          [0., 1., 2., 3.]]]])

输出特征图：
tensor([[[[ 6.,  8.,  4.],
          [12., 14.,  6.],
          [16., 18.,  8.]]]], grad_fn=<MkldnnConvolutionBackward>)
```

#### 实际应用中的一些注意事项

1. **权重初始化**：在实际应用中，卷积层的权重通常是通过随机初始化的，而不是手动设置的。PyTorch 提供了多种权重初始化的方法，可以根据具体需求进行选择。
2. **非线性激活函数**：卷积层通常会跟随一个非线性激活函数，如 ReLU。这是为了增加模型的非线性表达能力。
3. **批量归一化**：在深层卷积神经网络中，批量归一化层可以帮助加速训练并提高模型的性能。
4. **超参数调优**：卷积核大小、步长和填充等超参数的选择会影响模型的性能，需要通过实验来调优这些参数。

通过上述示例和注意事项，我们了解了如何在 PyTorch 中实现卷积操作。在实际应用中，PyTorch 的灵活性和强大功能使得卷积神经网络的实现和训练变得相对简单。

---

## 小节

通过这篇文章，我们一起探索了卷积神经网络的世界。从基本概念到实际应用，我们详细解析了卷积操作的原理和实现方式。希望这些内容不仅帮助你加深了对卷积神经网络的理解，也为你的学习和研究提供了有价值的参考。感谢你花时间阅读这篇文章。如果你有任何问题或想法，欢迎在评论区与我交流。让我们一起学习、进步，共同探索人工智能的无限可能！再次感谢你的支持，我们下次再见！

最后修改：2024 年 08 月 01 日

如果觉得我的文章对你有用，请随意赞赏

发表评论取消回复
使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款

评论 *

私密评论

名称 *

🎲

邮箱 *

地址

PyTorch正菜-卷积（一）

理想家 • 2024 年 08 月 01 日

## 引言

![](https://asenser.cn/usr/uploads/2024/08/2133991273.jpg)

---

## 卷积基础知识

### 人类如何识别人脸

### 卷积的定义和重要性

---

### 卷积神经网络的关键特性

#### 稀疏连接

#### 平移不变性

#### 重要性

这些特性使得卷积神经网络在处理图像和视频数据时具有显著优势：

---

## 最简单的卷积示例

![](https://asenser.cn/usr/uploads/2024/08/3545537619.jpg)

### 输入特征图与卷积核

首先，我们定义一个4x4的输入特征图和一个2x2的卷积核：

```
输入特征图：
[
 [1, 2, 3],
 [4, 5, 6],
 [7, 8, 9]
]

卷积核：
[
 [0, 1],
 [2, 3]
]
```

### 卷积计算步骤

卷积核将在输入特征图上滑动，逐个计算输出特征图的元素。计算方式是卷积核与输入特征图对应位置的元素相乘并求和。

1. **计算输出特征图的第一个元素：**

卷积核在输入特征图的左上角位置：

```
   0*1 + 1*2 + 2*4 + 3*5 = 25
   ```

因此，输出特征图的第一个元素是24。
2. **继续滑动卷积核，计算第二个元素：**

卷积核向右滑动一个单元：

```
   0*2 + 1*3 + 2*5 + 3*6 = 31
   ```

输出特征图的第二个元素是31。
3. **向下滑动卷积核，计算第三个元素：**

卷积核回到行首并向下滑动一个单元：

```
   0*4 + 1*5 + 2*7 + 3*8 = 43
   ```

输出特征图的第三个元素是43。

依此类推，继续计算剩余的元素，完整的输出特征图如下：

```
输出特征图：
[
 [25, 31],
 [43, 49]
]
```

### 步长和填充

![](https://asenser.cn/usr/uploads/2024/08/870921372.jpg)

![](https://asenser.cn/usr/uploads/2024/08/4247458545.jpg)

---

## 标准卷积操作

### 多通道卷积

### 卷积计算示例

为了更好地理解多通道卷积，我们来看一个具体的例子：

我们假设输入特征图的两个通道分别为：

```
输入特征图（通道 1）：
[
 [1, 2, 3, 0],
 [4, 5, 6, 1],
 [7, 8, 9, 2],
 [0, 1, 2, 3]
]

输入特征图（通道 2）：
[
 [0, 1, 2, 3],
 [1, 2, 3, 4],
 [2, 3, 4, 5],
 [3, 4, 5, 6]
]
```

卷积核的两个通道分别为：

```
卷积核（通道 1）：
[
 [1, 0],
 [0, 1]
]

卷积核（通道 2）：
[
 [0, 1],
 [1, 0]
]
```

卷积核与输入特征图的第一个通道进行卷积，结果为：

简化后结果为：

```
[
 [6, 8, 4],
 [12, 14, 6],
 [16, 18, 8]
]
```

接着，卷积核与输入特征图的第二个通道进行卷积，结果为：

简化后结果为：

```
[
 [2, 4, 6],
 [4, 6, 8],
 [6, 8, 10]
]
```

最后，将两个卷积结果相加得到输出特征图的一个通道：

```
[
 [8, 12, 10],
 [16, 20, 14],
 [22, 26, 18]
]
```

通过这种方式，卷积神经网络可以处理多通道的输入，并生成多通道的输出特征图。

### 卷积核和特征图的关系图解

为了更好地理解上述过程，可以参考下图的关系图解：

![](https://asenser.cn/usr/uploads/2024/08/3916968514.jpg)

通过这个图解，我们可以更清晰地看到卷积核如何与输入特征图的各个通道进行卷积运算，并最终合成输出特征图。

在理解了标准卷积操作之后，接下来我们将介绍如何在PyTorch中实现这些卷积操作。

---

## 在PyTorch中实现卷积

### PyTorch 中卷积层的定义

在 PyTorch 中，卷积层由 `torch.nn.Conv2d` 类定义。这个类包含了卷积操作所需的所有参数，如输入和输出通道数、卷积核大小、步长和填充等。

定义一个卷积层的基本语法如下：

```python
import torch
import torch.nn as nn

# 定义一个卷积层
conv_layer = nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0)
```

### 示例代码讲解

```python
import torch
import torch.nn as nn
import torch.nn.functional as F

# 定义卷积层
conv_layer = nn.Conv2d(in_channels=1, out_channels=1, kernel_size=2, stride=1, padding=0)

# 手动设置卷积核权重
conv_layer.weight = nn.Parameter(torch.tensor([[[[1, 0],
                                                 [0, 1]]]], dtype=torch.float32))

# 手动设置偏置为0
conv_layer.bias = nn.Parameter(torch.tensor([0.0]))

# 应用卷积层
output_feature_map = conv_layer(input_feature_map)

print("输入特征图：")
print(input_feature_map)
print("输出特征图：")
print(output_feature_map)
```

运行上述代码，输出将是：

```
输入特征图：
tensor([[[[1., 2., 3., 0.],
          [4., 5., 6., 1.],
          [7., 8., 9., 2.],
          [0., 1., 2., 3.]]]])

输出特征图：
tensor([[[[ 6.,  8.,  4.],
          [12., 14.,  6.],
          [16., 18.,  8.]]]], grad_fn=<MkldnnConvolutionBackward>)
```

#### 实际应用中的一些注意事项

---

## 小节

PyTorch正菜-卷积（一）

发表评论取消回复
使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款

旅行

欢迎使用 Typecho

PyTorch正菜-Tensor（上）

PyTorch正菜-数据读取(一)

PyTorch正菜-常用的视觉处理模型

PyTorch正菜-图像分类（上）

把Autosurvey搬入Comfyui

PyTorch正菜-数据读取(一)

PyTorch正菜-损失函数

PyTorch正菜-卷积（一）

PyTorch正菜-卷积（一）

发表评论 取消回复 使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款

PyTorch正菜-卷积（一）

发表评论取消回复
使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款