深度学习算法总结 第1篇
参考这篇文章：
简单的感知机如下图所示：
设置合适的x和b，一个简单的感知机单元的与非门表示如下：
当输入为0，1 时，感知机输出为0 × ( − 2 ) + 1 × ( − 2 ) + 3 = 1 。
复杂一些的感知机由简单的感知机单元组合而成：
深度学习算法总结 第2篇
在局部连接中，每个神经元的参数都是一样的，即：同一个卷积核在图像中都是共享的。（理解：卷积操作实际是在提取一个个局部信息，而局部信息的一些统计特性和其他部分是一样的，也就意味着这部分学到的特征也可以用到另一部分上。所以对图像上的所有位置，都能使用同样的学习特征。）卷积核共享有个问题：提取特征不充分，可以通过增加多个卷积核来弥补，可以学习多种特征。
对于一个100x100像素的图像，如果我们用一个神经元来对图像进行操作，这个神经元大小就是100x100=10000，单如果我们使用10x10的卷积核，我们虽然需要计算多次，但我们需要的参数只有10x10=100个，加上一个偏向b，一共只需要101个参数。我们取得图像大小还是100x100。
如果我们取得图像比较大，它的参数将会更加多。我们通过10*10的卷积核对图像进行特征提取，这样我们就得到一个Feature xxx。
一个卷积核只能提取一个特征，所以我们需要多几个卷积核，假设我们有6个卷积核，我们就会得到6个Feature xxx，将这6个Feature xxx组成一起就是一个神经元。这6个Feature xxx我们需要101*6=606个参数。这个值和10000比还是比较小的。
以下主要介绍：卷积层、池化层、激活函数、全连接层概念及原理
卷积是一种有效提取图片特征的方法 。 一般用一个正方形卷积核，遍历图片上的每一个像素点。图片与卷积核重合区域内相对应的每一个像素值，乘卷积核内相对应点的权重，然后求和， 再加上偏置后，最后得到输出图片中的一个像素值。 图片分灰度图和彩色图，卷积核可以是单个也可以是多个，因此卷积操作分以下三种情况：
这里单通道指的是输入为灰度图，单卷积核值卷积核个数是1个。
上面是 5x5x1 的灰度图片，1 表示单通道，5x5 表示分辨率，共有 5 行5列个灰度值。若用一个 3x3x1 的卷积核对此 5x5x1 的灰度图片进行卷积，偏置项b=1，则求卷积的计算是：(-1)x1+0x0+1x2+(-1)x5+0x4+1x2+(-1)x3+0x4+1x5+1=1（注意不要忘记加偏置 1）。
多数情况下，输入的图片是 RGB 三个颜色组成的彩色图，输入的图片包含了红、绿、蓝三层数据，卷积核的深度（通道数）应该等于输入图片的通道数，所以使用 3x3x3的卷积核，最后一个 3 表示匹配输入图像的 3 个通道，这样这个卷积核有三通道，每个通道都会随机生成 9 个待优化的参数，一共有 27 个待优化参数 w 和一个偏置 b。
注：这里还是单个卷积核的情况，但是一个卷积核可以有多个通道。默认情况下，卷积核的通道数等于输入图片的通道数。
深度学习算法总结 第3篇
池化作用如下“
2.池化操作能降低维度，减少参数数量。
3…池化操作优化比较简单。
池化层同样基于局部相关性的思想，通过从局部相关的一组元素中进行采样或信息聚合，从而得到新的元素值。通常我们用到两种池化进行下采样： （1）最大池化(Max Pooling)，从局部相关元素集中选取最大的一个元素值。 （2）平均池化(Average Pooling)，从局部相关元素集中计算平均值并返回。
全连接层的参数量是可以直接计算的，计算公式如下：
卷积参数 = 卷积核长度x卷积核宽度x输入通道数x输出通道数+输出通道数（偏置） 卷积计算量 = 输出数据大小x卷积核的尺度x输入通道数
例：输入：224x224x3，输出：224x244x64，卷积核：3x3
深度学习算法总结 第4篇
GAN 是生成式深度学习算法，它创建类似于训练数据的新数据实例。GAN 有两个组成部分: 一个生成器，学习生成虚假数据，一个鉴别器，学习从虚假信息。
GAN 的使用在一段时间内有所增加。它们可以用来改善天文图像和模拟暗物质研究的引力透镜效应。视频游戏开发者通过图像训练，以4K 或更高的分辨率重新创建低分辨率、2D 纹理的旧视频游戏，使用 GAN 来提升它们的分辨率。
GAN 有助于生成逼真的图像和卡通人物，创建人脸照片，并渲染3D 物体。
下面是 GAN 如何运作的示意图: