当前位置:
首页 > 互联网+ > 人工智能 > 深度学习算法实践:基于Theano和TensorFlowpdf/doc/txt格式电子书下载

深度学习算法实践:基于Theano和TensorFlowpdf/doc/txt格式电子书下载

本站仅展示书籍部分内容

如有任何咨询

请加微信10090337咨询

深度学习算法实践:基于Theano和TensorFlowpdf/doc/txt格式电子书下载

书名:深度学习算法实践:基于Theano和TensorFlowpdf/doc/txt格式电子书下载

推荐语:介绍了简单易懂的数学原理和深度学习常用算法,包含NumPy、SciPy等科学计算库,以MNIST手写数字识别为例,并基于TensorFlow和Theano讲解了

作者:闫涛,周琦

出版社:电子工业出版社

出版时间:2018-04-01

书籍编号:30457632

ISBN:9787121337932

正文语种:中文

字数:516850

版次:1

所属分类:互联网+-人工智能

全书内容:

深度学习算法实践:基于Theano和TensorFlowpdf/doc/txt格式电子书下载






内容简介


本书以深度学习算法入门为主要内容,通过系统介绍Python、NumPy、SciPy等科学计算库,深度学习主流算法,深度学习前沿研究,深度学习服务云平台构建四大主线,向读者系统地介绍了深度学习的主要内容和研究进展。本书介绍了Python、NumPy、SciPy的使用技巧,面向谷歌推出的开源深度学习框架TensorFlow,向读者展示了利用TensorFlow和Theano框架实现线性回归、逻辑回归、多层感知器、卷积神经网络、递归神经网络、长短时记忆网络、去噪自动编码机、堆叠自动编码机、受限玻尔兹曼机、深度信念网络等,并将这些技术用于MNIST手写数字识别任务。本书不仅讲述了深度学习算法本身,而且重点讲述了如何将这些深度学习算法包装成Web服务。本书旨在帮助广大工程技术人员快速掌握深度学习相关理论和实践,并将这些知识应用到实际工作中。


本书可以作为各类深度学习培训班的教材,也可以作为全国高等工科院校“深度学习”课程的教材,还可以作为广大人工智能、深度学习领域工程技术人员的参考书。

推荐序


《深度学习算法实践(基于Theano和TensorFlow)》针对深度学习初学者的需求,详细讲解了深度学习典型算法的数学原理,给出了基于TensorFlow和Theano的算法实现,并以手写数字识别、图像标注、文本生成等为例,演示了深度学习算法的典型应用。作者立足于引导读者从解决问题的思路出发,层层剖析,逐步开发出实用的深度学习系统。通过阅读本书,在熟练掌握深度学习基本数学原理的基础上,读者不仅可以直接将书中内容用于项目实践,而且可以跟踪理解深度学习的最新进展。


自2017年下半年以来,深度学习又有了一些新进展,如注意力机制、生成式对抗网络、胶囊网络等,虽然本书还没有将其详细纳入,但是相信读者基于本书的知识架构,通过阅读相关论文及文献,理解并掌握这些算法并不困难。


当前,人工智能、深度学习技术的发展可谓一日千里,需要时刻跟踪业界的最新进展,才能保证自己的知识结构跟上业界发展步伐。作者拥有较深的理论造诣和丰富的实践经验,希望本书能够帮助读者掌握完整的知识体系,拥有较强的动手能力,成为人工智能、深度学习领域的学习型和实践型人才。


中国工程院院士


img


2018年3月9日

前 言


2016年上半年,随着AlphaGo战胜围棋世界冠军李世石,深度学习技术迅速进入大众的视野,成为热门技术。无论是科技领域还是创业投资领域,深度学习技术都受到了前所未有的关注,面向深度学习技术的初创公司不断刷新融资数额的纪录。


随着深度学习技术的流行,市场上对于深度学习人才的需求量激增。但是,由于深度学习技术涉及高等数学、线性代数、数理统计和机器学习相关知识,故学习曲线比较陡峭。目前国内外著名大学深度学习相关专业硕博士、国家重点实验室学生,都被BAT等一线互联网公司抢光了,人才大战有愈演愈烈之势。普通公司和初创公司,在这场人才大战中处于劣势,面临着越来越严重的人才荒。


随着深度学习技术的深入应用,企业对深度学习技术人才的渴求是正常的,但是当前市场上对深度学习技术人才的需求是非理性的。一方面,大家疯抢的深度学习人才都是著名院校的硕博士和重点实验室的研究员,但是这部分人所受的训练和精通的领域是做算法研究,而企业的目的是实际应用,二者在很大程度上是不匹配的,最后可能是企业下了血本却没有产生效益;另一方面,对于很多深度学习应用来说,对项目本身业务的理解,比对深度学习算法的理解要重要得多,而由于业务专家不懂深度学习技术,致使很多好的应用领域没有合适的人才来做。


编写本书的目的就是解决上述问题,希望读者可以通过对本书的学习,迅速掌握深度学习的理论框架和知识体系,具备在自己的专业领域内应用深度学习技术的能力,同时还具备跟踪深度学习领域最新进展的能力,能够独立复现顶级期刊文章中介绍的新方法和新理论。


本书内容及知识体系


第一部分为深度学习算法概述,包括第1章。


第1章简单介绍神经网络和深度学习发展史、现状和发展趋势,介绍并比较了深度学习开源框架,还介绍了开源框架的选择标准。


第二部分为深度学习算法基础,主要讲述深度学习算法中比较成熟的算法,包括第2章到第7章。


第2章介绍Python开发环境的搭建、NumPy的使用、Theano的安装和使用,并用本章介绍的知识实现一个简单的线性回归算法的程序。


第3章讲述逻辑回归算法的数学推导过程,并且讲述了通用学习模型的相关知识,还利用逻辑回归算法对MNIST手写数字识别数据集进行训练和识别。


第4章讲述多层感知器模型算法推导过程,以及数值计算与向量表示方式,并利用多层感知器模型对MNIST手写数字识别数据集进行训练和识别。


第5章讲述卷积神经网络的数学原理,详细讲解卷积神经网络的层间稀疏连接、权值共享和最大池化等技术,并利用卷积神经网络模型对MNIST手写数字识别数据集进行训练和识别。


第6章讲述递归神经网络的数学原理,以字符RNN网络为例,向读者演示了简单的计算机写作系统。而且,以微软图像标注数据集为例,以测试驱动开发的形式,向读者介绍利用递归神经网络做图像标注的典型应用。


第7章讲述长短时记忆网络的网络架构和数学原理,并以大型影评数据集为例,采用长短时记忆网络进行情感计算。


第三部分为深度学习算法进阶,主要讲述深度学习算法中比较前沿的算法,包括第8章到第11章。


第8章讲述自动编码机的数学原理,重点介绍实际中应用较多的去噪自动编码机和稀疏自动编码机,并以去噪自动编码机为例,对MNIST手写数字识别数据集进行特征提取。


第9章讲述将去噪自动编码机进行分层训练,组合成堆叠去噪自动编码机,并将堆叠去噪自动编码机用于MNIST手写数字识别任务。


第10章讲述受限玻尔兹曼机的数学原理,并将其用于MNIST手写数字识别任务。


第11章讲述深度信念网络的数学原理,以及其与受限玻尔兹曼机的关系,并将其用于MNIST手写数字识别任务。


第四部分为机器学习基础,主要讲述一些基础的机器学习算法,包括第12章和第13章。


第12章讲述生成式学习的基础理论,并将高斯判别分析用于癌症判别,将朴素贝叶斯算法用于垃圾邮件过滤。


第13章简单介绍支撑向量机算法的数学原理。


第五部分为深度学习平台 API,这部分讲述将深度学习算法包装成深度学习服务云平台的技术,包括第14章和第15章。


第14章介绍Python的Web开发环境及开发技术。


第15章应用Web开发技术,将前面介绍的多层感知器模型包装成RESTful服务,用户可以通过网页上传图片文件,并得到识别后的结果。


由于篇幅所限,书中很多例子只给出了部分代码,这些代码对于理解算法的实现原理是足够的,但是考虑到代码的完整性,我们将书中绝大部分例程都上传到了GitHub的开源项目https://github.com/yt7589/dlp.git,书中的代码放在book/chp**目录下,这些代码在Ubuntu 16.04+Python3.6+TensorFlow1.2和Windows+Anaconda+TensorFlow1.2下均可正常运行。读者可以下载相关源码,通过运行这些源码加深对书中内容的理解。

第一部分 深度学习算法概述


❑ 深度学习算法简介

第1章 深度学习算法简介


1.1 神经网络发展简史


人工神经网络(ANN)是由许多简单的、相互连接的处理单元组成的,这些处理单元被称为神经元。人工神经网络是对生物神经系统进行仿生设计的结果,因此人工神经元与生物神经元有许多相似之处,每个神经元都具有若干个输入信号,神经元经过处理(通常是非线性处理)产生一个实数值的输出,通过输出突触传递给周围的神经元。整个人工神经网络,通过接收外界的输入信号,经过神经元的协同运算,产生人们希望的结果。从过去几十年的发展历史来看,相对于其他方法而言,人工神经网络对于很难用显性知识表示的领域,例如计算机视觉、模式识别、人脸识别、语音识别、视频识别等领域,具有非常大的优势。


神经网络的学习过程主要是指通过发现合适的神经元间的连接权值,来使整个神经网络表现出我们希望的行为,如自动驾驶、图像识别等。根据需要处理的问题,以及神经元间连接方式的不同,神经网络的决策过程可能包括很长的因果链,或者说多个计算阶段。在每个阶段中,神经网络都会自动汇总网络的激活信号,经过特定的非线性变换,为下一阶段的运算做好准备,并最终产生我们需要的结果。深度学习网络正是这样一种结构,它完美地体现了分阶段任务的特性,因此在实际应用中取得了令人刮目相看的成就。


我们知道,浅层神经网络在很久以前就存在了,20世纪60、70年代,就有多层非线性神经网络应用的例子。而且,基于监督学习的梯度下降方法,对于连续可微的多重函数,人们发现了反向传播算法(BP),并且在1981年成功将其应用于神经网络,使得基于这种算法的前馈神经网络在20世纪80年代迅速流行起来。然而在20世纪80年代末期,人们发现将BP算法应用于深度网络会出现非常大的问题,鉴于即使只有一个隐藏层神经网络,只要隐藏层神经元数目足够多,也可以拟合任意函数,因此当时人们普遍认为浅而宽的神经网络具有更好的性能。但是对于深度网络的研究并没有停止,尤其是研究人员将非监督学习引入深度学习网络之后,随着算法和神经元激活函数方面的一系列改进,使得深度学习网络在一系列模式识别竞赛中获奖,尤其是2011年,在某些特定领域,深度学习网络的模式识别能力甚至超过了人类。与此同时,深度学习在商业应用方面也取得了巨大的成功,例如在图像识别、语音识别和自然语言处理方面,取得了一系列令人瞩目的成绩,这一趋势一直延续至今。


在过去十几年中,前向神经网络(FNN)和递归神经网络(RNN)都赢得了一系列的算法竞赛。从某种意义上来说,递归神经网络是最深的神经网络,拥有比前向神经网络更强的计算能力,因为递归神经网络将序列信号分析和信息并行处理,以一种自然、高效的方式结合在一起。配合当前不断增加的计算能力,可以预见递归神经网络将拥有越来越重要的地位。


然而,神经网络的发展并不是一帆风顺的,中间经历数次大起大落,本节我们将简要回顾一下神经网络的发展史,通过介绍深度学习之前神经网络所遇到的困境,使读者对深度学习的背景有一个清晰的了解,这对于理解深度学习发展趋势是非常重要的,因为历史总是惊人的相似。同时,我们也应该看到,深度学习并不是人工神经网络发展的终点,其只是人工神经网络发展的一个特定阶段,一定会有更先进的技术超越当前的深度学习技术,因为深度学习网络目前只是将学习过程进行了分解,同时用非监督学习来辅助监督学习,并没有从根本上解决人工神经网络中欠拟合(Under Fitting)和过拟合(Over Fitting)等泛化问题。如果可以在强化学习和非监督学习方面取得突破,理论上可以产生更好的学习算法。


1.1.1 神经网络第一次兴起


现代神经网络起源于20世纪40年代,早期典型的神经网络模型有Hebb在1949年提出的非监督学习模型,以及1958年Rosenblatt提出的基于监督学习的感知器模型,其后出现了一系列监督学习和非监督学习模型。总体来讲,由于这一阶段计算能力有限,神经网络模型都比较简单,而且缺乏成功的实际应用。


最早的深度学习网络模型出现在20世纪60~70年代,Ivakhnenko等人提出了GMDH网络模型,在这种网络模型下,神经元的激活函数为Kolmogorov-Gabor多项式。在给定一个训练集的情况下,先通过回归分析增加神经网络的层数,再通过单独的验证集对网络拓扑结构进行剪裁。综上所述,GMDH神经网络的网络层数和每层的神经元数,都可以通过学习来进行调整,并且针对特定的问题,网络拓扑结构也将不同。可以说,GMDH神经网络是第一种开放的、分层学习的神经网络模型,当时最深的网络可以达到8层。


在20世纪60~70年代,神经生理科学家们发现,在猫的视觉皮层中有两类细胞,一类是简单细胞,另一类是复杂细胞。简单细胞对图像中的细节信息更敏感,例如边缘等;而复杂细胞具有空间

....

本站仅展示书籍部分内容

如有任何咨询

请加微信10090337咨询

本站仅展示书籍部分内容
如有任何咨询

请加微信10090337咨询

再显示