本书分四部分介绍深度学习算法模型及相关应用实例。第一部分介绍在深度学习中**的一些数学和机器学习的基础知识。第二部分介绍卷积神经网络、循环神经网络、深度强化网络等经典模型，并对每种模型从原理、结构、优化等方面进行论述。第三部分介绍深度学习中常用的优化方法及训练技巧。第四部分结合实践来介绍深度学习在计算机视觉、模式识别中的应用。本书同时兼顾理论和应用，有助于读者理解基本理论知识，并将理论知识用于实际应用。
本书既可以作为高等院校计算机及相关专业的高年级本科生和研究生教材，也可以作为对深度学习感兴趣的研究人员和工程人员的参考用书。
第1章 绪论
1.1 人工智能
1.1.1 什么是人工智能
1.1.2 人工智能的实现途径
1.1.3 人工智能发展简史
1.2 深度学习
1.2.1 深度学习发展简史
1.2.2 深度学习的主要应用
第2章 基础知识
2.1 线性代数
2.1.1 线性代数基础
2.1.2 矩阵的秩及矩阵运算
2.1.3 常见特殊矩阵
2.1.4 范数
2.1.5 特征分解
2.1.6 奇异值分解
2.2 概率论
2.2.1 随机变量
2.2.2 概率分布
2.2.3 随机变量的数字特征
2.2.4 贝叶斯定理
2.2.5 常用概率分布
2.3 最优化方法
2.3.1 梯度下降法
2.3.2 牛顿法
2.3.3 拟牛顿法
2.4 机器学习
2.4.1 基本概念
2.4.2 最大似然估计
2.4.3 机器学习的三要素
2.4.4 过拟合与欠拟合
2.4.5 学习方式
2.4.6 评估方法
2.4.7 性能度量
2.5 神经网络
2.5.1 神经元模型
2.5.2 单层感知器
2.5.3 多层感知器
}3章深度卷积神经网络
3.1 卷积层和卷积运算
3.1.1 生物机理
3.1.2 卷积运算
3.2 池化层和池化运算
3.3 AlexNet卷积神经网络
3.3.1 AlexNet的提出背景
3.3.2 AlexNet的网络结构
3.3.3 AlexNet的训练细节
3.3.4 AlexNet在分类任务上的表现
3.4 VGG网络
3.4.1 VGG网络的提出背景
3.4.2 VGG网络的结构配置
3.4.3 VGG网络的训练细节
3.4.4 VGG网络在分类任务上的表现
3.5 ResNet卷积神经网络
3.5.1 ResNet的提出背景
3.5.2 ResNet的网络结构
3.5.3 ResNet的训练细节
3.5.4 ResNet在分类任务上的表现
第4章 深度循环神经网络
4.1 简单循环网络
4.1.1 简单循环网络的前向传播过程
4.1.2 简单循环潮络的训练过程
4.1.3 单循环网络的长期依赖问题
4.2 长短期记忆网络
4.2.1 门机制
4.2.2 长短期记忆网络的前向传播过
4.2.3 长短期记忆网络的训练过程
4.2.4 长短期记忆网络的变体
4.3 神经图灵机
4.3.1 网络结构
4.3.2 寻址方式
4.3.3 控制器网络
4.3.4 小结
4.4 双向循环网络和多层循环网络
4.4.1 双向循环网络
4.4.2 多层循环网络
第5章 深度生成模型
5.1 变分自编码器
5.1.1 预备知识
5.1.2 解码器网络
5.1.3 编码器网络
5.1.4 总体模型
5.1.5 训练过程
5.2 生成对抗网络
5.2.1 基本思想
5.2.2 理论推导
5.2.3 训练过程
5.2.4 生成对抗网络的变体
第6章 深度强化学习
6.1 强化学习定义
6.1.1 目标函数
6.1.2 值函数
6.1.3 Q函数
6.2 强化学习求解方法
6.2.1 动态规划法
6.2.2 蒙特卡罗法
6.2.3 时序差分学习法
6.3 深度Q网络
6.4 策略梯度法
第7章 深度学习中的优化方法
7.1 梯度下降
7.1.1 批量梯度下降
7.1.2 随机梯度下降
7.1.3 小批量梯度下降
7.2 动量
7.2.1 经典动量
7.2.2 Nesterov动量
7.3 自适应法
7.3.1 AdaGrad
7.3.2 RMSProD
7.3.3 Adam
7.4 应用实例
7.4.1 梯度下降实例
7.4.2 动量实例
7.4.3 Nesterovr动量实例
7.4.4 AdaGrad实例
7.4.5 RMSProF)实例
7.4.6 Adam实例
第8章 深度学习中的训练技巧
8.1 网络正则化
8.1.1 参数范数惩罚
8.1.2 Dropout
8.1.3 Batctl Normalizatinn
8.2 数据增广与预处理
8.2.1 数据增广
8.2.2 数据预处理
8.3 参数初始化
8.4 激活函数的选择
8.5 超参数的选择
8.5.1 宽泛策略
8.5.2 习率的调整
8.5.3 迭代次数
8.5.4 正则化参数
8.5.5 批量数据的大小
8.5.6 总体调参过程
8.6 调试策略
8.6.1 基本调试策略
8.6.2 可视化工具——TensorBoal
第9章 开源框架
9.1 CaⅡle
9.1.1 MNIST手写体数字集
9.1.2 深度模型LeNet一
9.1.3 Caffe的文件目录结构
9.2 TensorFlow
9.3 Pyiforch
9.4 PyoTorclI与TensorF10w的对比
9.5 C如与TensorFlow的对比
第10章 深度学习在目标检测中的应用
10.1 目标检测介绍
10.2 传统目标检测算法
10.3 基于深度学习的目标检测算法
10.3.1 R—CNN
10.3.2 Fast R—CNN
10.3.3 FasteR—CNN
10.3.4 YOL
10.3.5 SSD
10.4 常用数据集
10.4.1 PASCAL VOC
10.4.2 COCO
10.5 算法性能分析
第11章 深度学习在目标跟踪中的应用
11.1 目标跟踪介绍
11.2 传统目标跟踪算法
11.3 基于深度学习的目标跟踪算法
11.3.1 DLT
11.3.2 GOTURN
11.3.3 SiameseF
11.3.4 R1Tr
11.4 常用数据集
11.4.1 OTB
11.4.2 VOT
11.5 算法性能分析
11.6 航空目标跟踪任务
11.6.1 UAVl23数据集
11.6.2 Campus数据集
第12章 深度学习在动作识别中的应用
12.1 动作识别介绍
12.2 传统动作识别方法
12.3 基于深度学习的动作识别方法
12.3.1 C3D网络
12.3.2 13D网络
12.3.3 P3D
12.3.4 Tw0一stream方法
12.3.5 TSN
12.4 常用数据集
12.4.1 UCF系列数据集
12.4.2 ActivitvNet数据集
12.4.3 THUMOS2014数据集
12.4.4 HMDB5l数据集
12.5 算法性能分析
参考文献
