学习资料

视频:https://www.bilibili.com/video/av10324235/

深度学习.pdf

TFlearn :tensorflow深度学习库

传统机器学习与深度学习的区别

传统机器学习

      数据预处理

      特征提取

      选择分类器

深度学习（工作量少）

      数据准备

      设计模型（CNN，RNN）

      训练（调参数，损失函数，训练参数）

Hog

           人的位置，做一个label，直接训练，结果就出来了

传统学习依然重要

          设计损失函数

          优化，设计模型等等都要用到传统机器学习

深度学习推动因素

          理论：CNN，RNN，ReLU（对增加网络层数有非常大的作用）

          数据：ImageNet(物品分类，目标探测,人脸计算，场景识别，生成图片)
                LFW（人脸数据库）

          硬件：Navidia CUDA + GPU

未来可能的进展

          无人驾驶

          无人超市（客户，位置跟踪，语音分析，物品探测，交易）

          自动翻译

深度学习应用

优点

          学习能力强

          覆盖范围广，适应性好

          可移植性好（迁移学习(拿别人训练好的model作为自己训练的起点)）

缺点

          计算量大，便携性差，硬件需求高，

          模型设计复杂

          有可能被'hack'

          长于计算，弱于算计（推理能力很弱）

深度学习框架比较

          Tensorflow（python）

          Theano（python/C++）

          MXNet（并行计算比较好）

Tensorflow介绍

                  自动求导，只关注模型设计

                  keras支持，方便迅速开发                       

                  学习环境：ubuntu，python2.7

工作方式

           1.构建方程

           2.参数带入

           TF运算

                            tf.reduce\_sum

                            tf.Variables//整个模型中要用到的参数，在训练过程中这些参数可以update

                            tf.placeholder//对一个网络进行input，对外的接口，接收外面的数据

卷积核

               重要用来边界的检测

              数学上，它是一个3×3的小矩阵

              卷积计算：

运行实力代码

卷积运算

NN,ANN,DNN,CNN,RNN,FC

分类，回归，生成

生成：根据原始图片，生成特征图，注意力图，分割图,生成艺术风格

情感分析：文本（RNN，CNN），

表情：CNN