1深度学习简介

1.1深度学习介绍

1.2深度学习的趋势

1.3参考资料

2TensorFlow系统介绍

2.1 TensorFlow诞生的动机

2.2 TensorFlow系统简介

2.3 TensorFlow基础概念

2.3.1计算图

2.3.2 Session会话

2.4系统架构

2.5源码结构

2.5.1后端执行引擎

2.5.2前端语言接口

2.6小结

2.7参考资料

3Hello TensorFlow

3.1环境准备

3.1.1 Mac OS安装

3.1.2 Linux GPU服务器安装

3.1.3常用Python库

3.2 Titanic题目实战

3.2.1 Kaggle平台介绍

3.2.2 Titanic题目介绍

3.2.3数据读入及预处理

3.2.4构建计算图

3.2.5构建训练迭代过程

3.2.6执行训练

3.2.7存储和加载模型参数

3.2.8预测测试数据结果

3.3数据挖掘的技巧

3.3.1数据可视化

3.3.2特征工程

3.3.3多种算法模型

3.4 TensorBoard可视化

3.4.1记录事件数据

3.4.2启动TensorBorad服务

3.5数据读取

3.5.1数据文件格式

3.5.2 TFRecord

3.6 SkFlow、TFLearn与TF-Slim

3.7小结

3.8参考资料

4CNN“看懂”世界

4.1图像识别的难题

4.2 CNNs的基本原理

4.2.1卷积的数学意义

4.2.2卷积滤波

4.2.3 CNNs中的卷积层

4.2.4池化（Pooling）

4.2.5 ReLU

4.2.6多层卷积

4.2.7 Dropout

4.3经典CNN模型

4.3.1 AlexNet

4.3.2 VGGNets

4.3.3 GoogLeNet＆Inception

4.3.4 ResNets

4.4图像风格转换

4.4.1量化的风格

4.4.2风格的滤镜

4.5小结

4.6参考资料

5 RNN“能说会道”

5.1文本理解和文本生成问题

5.2标准RNN模型

5.2.1 RNN模型介绍

5.2.2 BPTT算法

5.2.3灵活的RNN结构

5.2.4 TensorFlow实现正弦序列预测

5.3 LSTM模型

5.3.1长期依赖的难题

5.3.2 LSTM基本原理

5.3.3 TensorFlow构建LSTM模型

5.4更多RNN的变体

5.5语言模型

5.5.1 NGram语言模型

5.5.2神经网络语言模型

5.5.3循环神经网络语言模型

5.5.4语言模型也能写代码

5.5.5改进方向

5.6对话机器人

5.6.1对话机器人的发展

5.6.2基于seq2seq的对话机器人

5.7小结

5.8参考资料

6CNN＋LSTM看图说话

6.1 CNN＋LSTM网络模型与图像检测问题

6.1.1 OverFeat和Faster R-CNN图像检测算法介绍

6.1.2遮挡目标图像检测方法

6.1.3 ReInspect算法实现及模块说明

6.1.4 ReInspect算法的实验数据与结论

6.2 CNN＋LSTM网络模型与图像摘要问题

6.2.1图像摘要问题

6.2.2 NIC图像摘要生成算法

6.2.3 NIC图像摘要生成算法实现说明

6.2.4 NIC算法的实验数据与结论

6.3小结

6.4参考资料

7损失函数与优化算法

7.1目标函数优化策略

7.1.1梯度下降算法

7.1.2 RMSProp优化算法

7.1.3 Adam优化算法

7.1.4目标函数优化算法小结

7.2类别采样（Candidate Sampling）损失函数

7.2.1 softmax类别采样损失函数

7.2.2噪声对比估计类别采样损失函数

7.2.3负样本估计类别采样损失函数

7.2.4类别采样logistic损失函数

7.3小结

7.4参考资料

结语