LSTM能够通过引入额外的“存储单元”来实现这一点，这些“存储单元”可以长时间存储信息，并使用“门”来控制进出单元的信息流。这些门允许 LSTM 有选择地存储和检索信息，并忘记不再需要的信息。
与传统 RNN 相比，LSTM 的主要优势之一是它们能够处理长期依赖关系。在传统的RNN中，给定时间步的隐藏状态通常是前一个时间步的隐藏状态和当前时间步的输入的函数。这意味着模型捕获长期依赖项的能力受到隐藏状态大小的限制，这使得捕获跨越多个时间步的依赖项变得困难。
相比之下，LSTM 能够通过使用其存储单元来存储与较长时间相关的信息来捕获长期依赖关系。这使他们能够更好地捕获数据中对手头任务很重要的模式和关系。
总体而言，LSTM 是一个强大的工具，适用于需要模型长时间记住过去信息的任务，并且已经在广泛的任务上取得了成功，包括语言翻译、语言建模和语音识别。
有人说，人工智能（AI）是未来，人工智能是科幻，人工智能也是我们日常生活中的一部分。这些评价可以说都是正确的，就看你指的是哪一种人工智能。
今年早些时候，Google DeepMind的AlphaGo打败了韩国的围棋大师李世乭九段。在媒体描述DeepMind胜利的时候，将人工智能（AI）、机器学习（machine learning）和深度学习（deep learning）都用上了。这三者在AlphaGo击败李世乭的过程中都起了作用，但它们说的并不是一回事。
今天我们就用最简单的方法——同心圆，可视化地展现出它们三者的关系和应用。
如上图，人工智能是最早出现的，也是最大、最外侧的同心圆；其次是机器学习，稍晚一点；最内侧，是深度学习，当今人工智能大爆炸的核心驱动。
五十年代，人工智能曾一度被极为看好。之后，人工智能的一些较小的子集发展了起来。先是机器学习，然后是深度学习。深度学习又是机器学习的子集。深度学习造成了前所未有的巨大的影响。
从概念的提出到走向繁荣
1956年，几个计算机科学家相聚在达特茅斯会议（Dartmouth Conferences），提出了“人工智能”的概念。其后，人工智能就一直萦绕于人们的脑海之中，并在科研实验室中慢慢孵化。之后的几十年，人工智能一直在两极反转，或被称作人类文明耀眼未来的预言；或者被当成技术疯子的狂想扔到垃圾堆里。坦白说，直到2012年之前，这两种声音还在同时存在。
过去几年，尤其是2015年以来，人工智能开始大爆发。很大一部分是由于GPU的广泛应用，使得并行计算变得更快、更便宜、更有效。当然，无限拓展的存储能力和骤然爆发的数据洪流（大数据）的组合拳，也使得图像数据、文本数据、交易数据、映射数据全面海量爆发。
让我们慢慢梳理一下计算机科学家们是如何将人工智能从最早的一点点苗头，发展到能够支撑那些每天被数亿用户使用的应用的。
| 人工智能（Artificial Intelligence）——为机器赋予人的智能
早在1956年夏天那次会议，人工智能的先驱们就梦想着用当时刚刚出现的计算机来构造复杂的、拥有与人类智慧同样本质特性的机器。这就是我们现在所说的“强人工智能”（General AI）。这个无所不能的机器，它有着我们所有的感知（甚至比人更多），我们所有的理性，可以像我们一样思考。
人们在里也总是看到这样的机器：友好的，像星球大战中的C-3PO；邪恶的，如终结者。强人工智能现在还只存在于和科幻小说中，原因不难理解，我们还没法实现它们，至少目前还不行。
我们目前能实现的，一般被称为“弱人工智能”（Narrow AI）。弱人工智能是能够与人一样，甚至比人更好地执行特定任务的技术。例如，Pinterest上的图像分类；或者Facebook的人脸识别。
这些是弱人工智能在实践中的例子。这些技术实现的是人类智能的一些具体的局部。但它们是如何实现的？这种智能是从何而来？这就带我们来到同心圆的里面一层，机器学习。
| 机器学习—— 一种实现人工智能的方法
机器学习最基本的做法，是使用算法来解析数据、从中学习，然后对真实世界中的事件做出决策和预测。与传统的为解决特定任务、硬编码的软件程序不同，机器学习是用大量的数据来“训练”，通过各种算法从数据中学习如何完成任务。
机器学习直接来源于早期的人工智能领域。传统算法包括决策树学习、推导逻辑规划、聚类、强化学习和贝叶斯网络等等。众所周知，我们还没有实现强人工智能。早期机器学习方法甚至都无法实现弱人工智能。
机器学习最成功的应用领域是计算机视觉，虽然也还是需要大量的手工编码来完成工作。人们需要手工编写分类器、边缘检测滤波器，以便让程序能识别物体从哪里开始，到哪里结束；写形状检测程序来判断检测对象是不是有八条边；写分类器来识别字母“ST-O-P”。使用以上这些手工编写的分类器，人们总算可以开发算法来感知图像，判断图像是不是一个停止标志牌。
这个结果还算不错，但并不是那种能让人为之一振的成功。特别是遇到云雾天，标志牌变得不是那么清晰可见，又或者被树遮挡一部分，算法就难以成功了。这就是为什么前一段时间，计算机视觉的性能一直无法接近到人的能力。它太僵化，太容易受环境条件的干扰。
随着时间的推进，学习算法的发展改变了一切。
| 深度学习——一种实现机器学习的技术
人工神经网络（Artificial Neural Networks）是早期机器学习中的一个重要的算法，历经数十年风风雨雨。神经网络的原理是受我们大脑的生理结构——互相交叉相连的神经元启发。但与大脑中一个神经元可以连接一定距离内的任意神经元不同，人工神经网络具有离散的层、连接和数据传播的方向。
例如，我们可以把一幅图像切分成图像块，输入到神经网络的第一层。在第一层的每一个神经元都把数据传递到第二层。第二层的神经元也是完成类似的工作，把数据传递到第三层，以此类推，直到最后一层，然后生成结果。
每一个神经元都为它的输入分配权重，这个权重的正确与否与其执行的任务直接相关。最终的输出由这些权重加总来决定。
我们仍以停止（Stop）标志牌为例。将一个停止标志牌图像的所有元素都打碎，然后用神经元进行“检查”：八边形的外形、救火车般的红颜色、鲜明突出的字母、交通标志的典型尺寸和静止不动运动特性等等。神经网络的任务就是给出结论，它到底是不是一个停止标志牌。神经网络会根据所有权重，给出一个经过深思熟虑的猜测——“概率向量”。
这个例子里，系统可能会给出这样的结果：86%可能是一个停止标志牌；7%的可能是一个限速标志牌；5%的可能是一个风筝挂在树上等等。然后网络结构告知神经网络，它的结论是否正确。
即使是这个例子，也算是比较超前了。直到前不久，神经网络也还是为人工智能圈所淡忘。其实在人工智能出现的早期，神经网络就已经存在了，但神经网络对于“智能”的贡献微乎其微。主要问题是，即使是最基本的神经网络，也需要大量的运算。神经网络算法的运算需求难以得到满足。
不过，还是有一些虔诚的研究团队，以多伦多大学的Geoffrey Hinton为代表，坚持研究，实现了以超算为目标的并行算法的运行与概念证明。但也直到GPU得到广泛应用，这些努力才见到成效。
我们回过头来看这个停止标志识别的例子。神经网络是调制、训练出来的，时不时还是很容易出错的。它最需要的，就是训练。需要成百上千甚至几百万张图像来训练，直到神经元的输入的权值都被调制得十分精确，无论是否有雾，晴天还是雨天，每次都能得到正确的结果。
只有这个时候，我们才可以说神经网络成功地自学习到一个停止标志的样子；或者在Facebook的应用里，神经网络自学习了你妈妈的脸；又或者是2012年吴恩达（Andrew Ng）教授在Google实现了神经网络学习到猫的样子等等。
吴教授的突破在于，把这些神经网络从基础上显著地增大了。层数非常多，神经元也非常多，然后给系统输入海量的数据，来训练网络。在吴教授这里，数据是一千万YouTube视频中的图像。吴教授为深度学习（deep learning）加入了“深度”（deep）。这里的“深度”就是说神经网络中众多的层。
现在，经过深度学习训练的图像识别，在一些场景中甚至可以比人做得更好：从识别猫，到辨别血液中癌症的早期成分，到识别核磁共振成像中的肿瘤。Google的AlphaGo先是学会了如何下围棋，然后与它自己下棋训练。它训练自己神经网络的方法，就是不断地与自己下棋，反复地下，永不停歇。
| 深度学习，给人工智能以璀璨的未来
深度学习使得机器学习能够实现众多的应用，并拓展了人工智能的领域范围。深度学习摧枯拉朽般地实现了各种任务，使得似乎所有的机器辅助功能都变为可能。无人驾驶汽车，预防性医疗保健，甚至是更好的推荐，都近在眼前，或者即将实现。
人工智能就在现在，就在明天。有了深度学习，人工智能甚至可以达到我们畅想的科幻小说一般。你的C-3PO我拿走了，你有你的终结者就好了。
深度学习目前的应用领域很多，主要是计算机视觉和自然语言处理，以及各种预测等。对于计算机视觉，可以做图像分类、目标检测、视频中的目标检测等，对于自然语言处理，可以做语音识别、语音合成、对话系统、机器翻译、文章摘要、情感分析等。对于刚入行深度学习，想从事人工智能工业应用和研发的小白来说，选择一个适合自己的深度学习框架显得尤为重要。那么在选择深度学习框架的时候，要注意哪些内容呢
通常我们在选择框架时要考虑易用性、性能、社区、平台支持等问题。初学者应该考虑容易上手的框架，偏工业应用的开发者可以考虑使用稳定性高、性能好的框架，偏研究性的开发者，一般选择易用而且有领先的模型基线的框架。
目前这个阶段，TensorFlow因为背靠谷歌公司这座靠山，再加上拥有庞大的开发者群体，而且采用了称为“可执行的伪代码”的Python语言，成为最受欢迎的主流框架之一。一些外围的第三方库(如Keras、TFLearn)也基于它实现了很多成果，Keras还得到TensorFlow官方的支持。TensorFlow支持的上层语言也在逐渐扩大，对于不同工程背景的人转入的门槛正在降低。
因此，对于刚入行深度学习的小白，TensorFlow是一个非常好的选择，掌握TensorFlow对以后的求职发展很有帮助。
为了让大家更快地掌握深度学习技术，成为人工智能领域高端人才，中公教育联合中科院自动化研究所专家，强力推出人工智能《深度学习》，让大家学有所成、真正掌握机器学习模型以及算法背后的原理。
深度学习与AI、机器学习之间的学习可以从学习领域以及学习内容范围进行区分，简单的理解就是：AI 学习是一个大概念大方向，其次是机器学习，最后才是深度学习。机器学习是人工智能的核心，是使计算机具有智能的根本途径。具体的区别如下：
人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。
深度学习(DL, Deep Learning)是机器学习(ML, Machine Learning)领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能(AI, Artificial Intelligence)。
AI、机器学习和深度学习的未来虽然尚处在开发和使用的早期阶段，AI、机器学习和深度学习已经影响了我们的生活，工作和娱乐。你是否已经准备好接受和利用这些颠覆性创新了呢？
美国的 Hanson Robotics 公司研发的机器人Sophia在上个月正式被沙特阿拉伯授予了公民身份，而沙特阿拉伯也成了世界上第一个赋予机器人公民权的国家。Sophia 以奥黛丽·赫本为原型设计，这位沙特公民如今已经成为了家喻户晓的网红，出现在各个电视节目和全球性会议上。
其实 Sophia 并不孤单。事实上，数十年以来人们在日常生活的方方面面都会使用到 AI。从智能手机上的语音识别，房间清扫机器人，再到提醒你会议召开的虚拟助手，AI 已经证明自己是信息、学习、推理、计划和交流的重要提供者。
AI 被定义为通过计算机有效地模拟人类智能的过程，AI 还包含机器学习和深度学习的概念。通过机器学习，AI 能够让无生命系统进行自动学习并改进经验（非常“人性化”的特性）；而深度学习则使计算机能够在没有被明确地编程时进行学习。
机器学习能够帮助 Uber 等公司确定乘车时间，估计 UberEATS(Uber的送餐应用)的送餐时间，并计算出最佳上车位置。谷歌把深度学习用于语音和图像识别算法，亚马逊使用它来确定客户接下来想看什么或者买什么。
AI 影我们的三种方式
AI、机器学习和深度学习可以组合在一起运用，从而帮助企业发展得更智能，更好，更快。虽然这三者仍处于技术发展的初期，但已经在不知不觉中影响我们的生活。主要体现在以下三点：
1 简化我们的日常生活
根据《福布斯》杂志的一篇文章，糟糕的客户服务已经造成了620亿美元的损失，而且这一赤字将持续增加。AI 能够做到人类无法完成的事情，从而改善这一情况。数字助理已经成为日常生活中被大众普遍认可的得力助手。我们可以期待 AI 将在未来的生活中发挥更大的作用，但这还只是一个开始。普华永道(PwC)最近的调查显示，大部分消费者认为，不久的将来 AI 将大大简化人们的日常生活。
2 让公共部门更有效率
AI 和机器学习能够显著减少和控制公共部门机构的运营成本。
比如下面的例子：
美国陆军医疗部正在开发可穿戴式监视器，这种监视器使用机器学习算法来衡量伤口的潜在严重性，帮助医疗人员优先处理。
白宫、美国海关和移民局使用聊天机器人(chatbot)来回答基本问题，把复杂的问题留给人工客服来回答。
美国邮政服务采用手写识别的方式按邮政编码分类邮件; 有些机器每小时可以处理一万八千封邮件。
根据德勤最近的一项研究显示，使用 AI 来自动处理联邦政府的工作任务，每年至少可节省9670万工时，节省成本33亿美元。
3 解决企业面临的巨大挑战
以制造业为例。工业革命使我们从大规模生产转向自动化。从第一批机器人在生产线上工作以来，已经有半个多世纪了。如今，被称为工业 40的制造通过运用 AI、机器学习和物联网将变得更加智能。来自客户、合作伙伴、市场、工厂车间和仓库的数据都可以进行收集、整合、分析和预测，从而使公司更有效、准确地改变制造和运输产品货物的方式。
制造业不是使用 AI 的唯一例子; AI 影响着市场的各个领域，用来解决复杂的业务问题。
例如，许多大型金融机构已经通过投资 AI 系统来协助其投资实践。《美国银行家日报》的一篇报告指出，财富管理公司BlackRock的 AI 引擎 Aladdin 如何帮助制定投资决策; 同时该公司还将该系统提供给客户，已有近3万人使用该系统。Aladdin 具有很多功能，包括使用自然语言处理来阅读新闻，券商报告和社交媒体信息等文本。该系统还能帮助用户做出投资决策。
你应该怎么做？
使用 AI 需要高度专业化的技能。因此人们必须把 AI 与如何有效地运用于私人或公共部门联系起来。
随着 AI、机器学习和深度学习的不断发展和成熟，每个企业都应该开始尝试这些技术，从而让公司发展得更智能、更好、更快速。那么你该怎么做？
首先应该从业务策略开始。你的公司可能没有一个正式的、系统化的方法方法来预测未来，但肯定有商业策略。这些策略来自于关于将来发生变化的假设。
这一过程需要自我反省。包括以下这些步骤：
1仔细审视目前的策略。你的团队在执行目前计划时表现如何？需要做些什么改变？从当前情况考虑，利用 AI 技术能够使公司运作更高效。
2分析你目前的工作对于团队，合作伙伴和客户的影响。在哪些方面，你的工作可以被显著提高？
3评估你现在的能力，并做出改进。在开始尝试 AI 时，你有什么资产和资源？
你对未来的假设会直接影响到现在正在做的事情。请仔细地重新审视目前的策略和流程。
任何未来转型的必要组成部分都需要左脑(分析)与右脑(创造)相结合的人才和文化。AI 的价值创造过程也不例外。它始于产生正确的想法，并以执行有效的方案结束。人工智能也叫做AI，是计算机学科的一个分支，主要是用来模拟人类的智力的，也是因为拥有智力这一特点，而被广泛使用，常见的有语音识别、图像识别、机器人、自然语言处理、智能搜索和专家系统等等。
机器学习就是人工智能研究和使用的一个分支领域，而它的研究比较倾向于理论性，而目的则主要是让研究的计算机可以拥有学习知识的能力，这样机器学习就可以得到结果不断接近目标函数的理论。机器学习的实用也是很多的，有数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测xyk欺诈、证券市场分析、DNA序列测序、语音和手写识别等等。
深度学习最早出现在人工神经网络的研究中，具有多层次感知器就是一种深度学习的结构，它会经由组合底层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示，如果严格来看，人工智能和机器学习是没有关系的，只是机器学习的方法会使用在人工智能需要解决问题时，所以机器学习也可以说是人工智能的一种实现方式。深度学习是机器学习的一个方向，它就是一种神经网络算法的衍生，常会使用在图像、语言等等方面。
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）