《深度学习原理与TensorFlow实践》主要介绍了深度学习的基础原理和TensorFlow系统基本使用方法。TensorFlow是目前机器学习、深度学习领域最优秀的计算系统之一，《深度学习原理与TensorFlow实践》结合实例介绍了使用TensorFlow开发机器学习套用的详细方法和步骤。同时，《深度学习原理与TensorFlow实践》着重讲解了用于图像识别的卷积神经网路和用于自然语言处理的循环神经网路的理论知识及其TensorFlow实现方法，并结合实际场景和例子描述了深度学习技术的套用範围与效果。

《深度学习原理与TensorFlow实践》非常适合对机器学习、深度学习感兴趣的读者，或是对深度学习理论有所了解，希望尝试更多工程实践的读者，抑或是对工程产品有较多经验，希望学习深度学习理论的读者。

1深度学习简介1

1.1深度学习介绍1

1.2深度学习的趋势7

1.3参考资料10

2TensorFlow系统介绍12

2.1TensorFlow诞生的动机12

2.2TensorFlow系统简介14

2.3TensorFlow基础概念16

2.3.1 计算图 16

2.3.2 Session会话 18

2.4系统架构19

2.5源码结构21

2.5.1后端执行引擎22

2.5.2前端语言接口24

2.6小结24

2.7参考资料25

3Hello TensorFlow 26

3.1 环境準备26

3.1.1Mac OS安装27

3.1.2Linux GPU伺服器安装28

3.1.3常用Python库32

3.2Titanic题目实战34

3.2.1Kaggle平台介绍34

3.2.2Titanic题目介绍35

3.2.3数据读入及预处理38

3.2.4构建计算图40

3.2.5构建训练叠代过程44

3.2.6执行训练46

3.2.7存储和载入模型参数47

3.2.8预测测试数据结果50

3.3数据挖掘的技巧51

3.3.1数据可视化52

3.3.2特徵工程54

3.3.3多种算法模型57

3.4TensorBoard可视化58

3.4.1记录事件数据58

3.4.2启动TensorBorad服务60

3.5数据读取62

3.5.1 数据档案格式63

3.5.2 TFRecord 63

3.6SkFlow、TFLearn与TF-Slim 67

3.7小结69

3.8参考资料69

4CNN“看懂”世界71

4.1图像识别的难题72

4.2CNNs的基本原理74

4.2.1卷积的数学意义75

4.2.2卷积滤波77

4.2.3CNNs中的卷积层81

4.2.4池化（Pooling）83

4.2.5ReLU 84

4.2.6多层卷积86

4.2.7Dropout 86

4.3经典CNN模型87

4.3.1AlexNet 88

4.3.2VGGNets 95

4.3.3GoogLeNet & Inception 98

4.3.4ResNets 106

4.4图像风格转换109

4.4.1量化的风格109

4.4.2 风格的滤镜116

4.5 小结120

4.6参考资料121

5RNN“能说会道”123

5.1文本理解和文本生成问题124

5.2标準RNN模型128

5.2.1RNN模型介绍128

5.2.2BPTT算法130

5.2.3灵活的RNN结构132

5.2.4TensorFlow实现正弦序列预测135

5.3LSTM模型138

5.3.1长期依赖的难题138

5.3.2LSTM基本原理139

5.3.3 TensorFlow构建LSTM模型142

5.4更多RNN的变体144

5.5语言模型146

5.5.1NGram语言模型146

5.5.2神经网路语言模型148

5.5.3循环神经网路语言模型150

5.5.4语言模型也能写代码152

5.5.5改进方向163

5.6对话机器人164

5.6.1对话机器人的发展165

5.6.2基于seq2seq的对话机器人169

5.7小结181

5.8参考资料182

6CNN+LSTM看图说话183

6.1CNN+LSTM网路模型与图像检测问题184

6.1.1OverFeat和Faster R-CNN图像检测算法介绍185

6.1.2遮挡目标图像检测方法187

6.1.3ReInspect算法实现及模组说明188

6.1.4 ReInspect算法的实验数据与结论204

6.2 CNN+LSTM网路模型与图像摘要问题207

6.2.1 图像摘要问题208

6.2.2 NIC图像摘要生成算法209

6.2.3 NIC图像摘要生成算法实现说明214

6.2.4 NIC算法的实验数据与结论243

6.3 小结249

6.4 参考资料250

7损失函式与最佳化算法253

7.1目标函式最佳化策略254

7.1.1梯度下降算法254

7.1.2RMSProp最佳化算法256

7.1.3Adam最佳化算法257

7.1.4目标函式最佳化算法小结258

7.2类别採样（CandidateSampling）损失函式259

7.2.1softmax类别採样损失函式261

7.2.2噪声对比估计类别採样损失函式281

7.2.3负样本估计类别採样损失函式286

7.2.4类别採样logistic损失函式286

7.3小结287

7.4 参考资料288

结语289