1、人工智能综述摘要：近年来，以深度学习为核心的人工智能技术1-4，取得了一系列重大突破， 本文将就人工智能的产业化热潮，主要研究流派及发展历史5-6，以深度学习为核心的成功应用7-8，以及存在的一些问题和今后的可能研究方向做一个介绍。关键词：人工智能；深度学习；神经网络Summary of Artificial Intelligence14Abstract: In recent years, the artificial intelligence technology of deep learning cored on , has made a series of major breakthro
2、ughs ,This article will be on the artificial intelligence industry boom, the main research genre and development history, the depth of learning as the core of the successful application, and the existence Some questions and future possible research directions to make an introduction.Key words: artif
3、icial intelligence; depth learning; neural network0 引言从 1956 年达特茅斯会议首次定义“人工智能”( Artificial Intelli-gence，AI) 开始，AI 研究已经历了几次历史浮沉。在一次又一次的高潮和低谷的交替中，不可否认，AI 无论是在理论还是在实践上都取得了扎实的进步，人类对于智能的理解进一步加深。9-11尤其是近期以深度学习( Deep Learning，DL) 为代表的 AI 技术取得了突破性的进展，从而在全世界范围内又掀起了一个 AI 研究热潮。与以往不同的是， 这次的研究热潮同时伴随着 AI 商业化浪潮，实
4、验室成果很快就进入工业界，甚至工业界在这股热潮中也站在了学术研究的前沿，这在以往的技术发展史上是非常罕 见的12-13。2015 年 7 月，人工智能被写入国务院关于积极推进“互联网 +”行动的指导意见; 2016 年 3 月，人工智能一词被写入“十三五”规划纲要; 2016 年 5 月，国家发展改革委员会等四部门联合下发“互联网+”人工智能三年行动实施方 案;李克强总理的政府工作报告中也提到了人工智能产业发展;中国科学技术部“科技创新 2030重大项目”近期或将新增“人工智能 2. 0”，人工智能将进一步上升为国家战略。这充分可以看出我国对 AI 的重视程度。2017 年，中国工程院院刊信息
5、与电子工程学部分刊信息与电子工程前沿(英文)出版了“Ar-tificial Intelligence 2. 0”专题，潘云鹤等多位院士及专家学者对 AI2. 0 所涉及的大数据智能、群体智能、跨媒体智能、混合增强智能和自主智能等进行了深度阐述。面对人工智 能热潮，我们该如何理解，看待其进步?又如何了解其功能和限制?已经有不少书籍和论文讨论了上述问题，本文将从人工智能的产业化浪潮、学术流派和研究方法，以深度神经网络为主的 AI 发展历史、近期成果和存在问题等诸多方面对人工智能做一个的介绍，希望能对读者了解 AI 有所帮助。1 人工智能商业化浪潮20 世纪末，当以神经网络为主流的 AI 研究又一次
6、跌入低谷的时候，加拿大多伦多大学的 Hinton 教授等还是坚守阵地，辛勤耕耘，并在 2006 年获得了突破。2012 年他和两位学生成立“深度神经网络研究”( DNN esearch) 公司，数个月后被 Google 收购，从此 Hinton 教授身兼多伦多大学教授和 Google 研究者的双重身份。Google 随后斥资 4 亿美元收购人工智能初创的前沿人工智能企业 DeepMind。 另外，Google 还收购了乌克兰面部识别技术开发商 View-dle。紧随 Hinton 教授的步伐，纽约大学 Yann Le Cun 教授，2013 年底被聘请为Facebook 人工智能研究院的总管;
7、 斯坦福大学吴恩达( Andrew Ng) 教授，2014 年被百度聘任为首席科学家负责“百度大脑”的计划( 2017 年已经辞职) ; 斯坦福大学李飞飞教授( Fei-Fei Li) 成为谷歌云计算部门的负责人之一。 这些现象一方面说明人工智能现在受工业界的欢迎程度，同时也说明了人工智能目前的发展趋势是学术研究和企业开发的快速深度结合。2 人工智能的主要研究学派2. 1 结构模拟近代科学强调“结构决定论”14，认为只要系统的结构清楚了，功能也就认识清楚了。最先提出来的智能模拟就是结构模拟的思路，其代表性的成果有神经元的MP 模型、多层感知器 MLP 模型和人工神经网络等15。在机械系统的研究
8、中非常有用的结构决定论，在智能系统的研究中却存在很多问题。结构只是硬件基础，不能完全确定系统的智能行为。正如现在对于单个神经元的生理活动机制已经研究得非常深入，但是大量的神经元连接在一起所呈现的智能行为目前的理解还是非常肤浅。作为结构模拟的主流成功方法，人工神经网络具有非常突出的优点: 1)人工神经网络具有比较规范的结构; 2)系统具有大量可以调节的参数，自由度大，可以实现非常多样的系统; 3) 网络具有并行处理的机制; 4) 信息分布存储，提供了优良的记忆和联想能力; 5)系统具有很强的自适应能力和高度的容错能力。当然人工神经网络也具有很多弱点和局限性16: 1) 人的智能系统不仅结构复杂，
9、而且机制深奥，不是现在的人工神经网络所能完全模拟的; 2)人工神经网络能做到的规模和人脑相比还是太小; 3) 神经元的工作机理过度简化，难以保证系统能最终模拟人脑。另外， 人工神经网络将一切智能都归为数值计算，在未能回答任何问题是否都可以形式化或者数值化这个问题之前，这种数值化计算能否完全模拟人类智能还是一个问题。2. 2 功能模拟面对结构模拟所存在的问题，另外一类观点认为，人工智能的研究无需去理会智能的具体结构，只要能够模拟智力功能即可，这就是“功能主导论”下的功能模拟思路。实际上，功能模拟的最典型代表就是传统的人工智能，如专家系统是其最成功的应用。功能模拟也常常被称为符号主义、逻辑主义、心
10、理学派。符号主义认为人工智能源于数理逻辑。数理逻辑在 20 世纪 30 年代开始应用于描述智能行为17，并在计算机上实现逻辑演绎系统。后来符号主义者进一步发展为启发式算法专家系统知识工程理论和技术。这方面的研究一开始取得了不少成绩，但是一直被批评为难以解决实际问题。直到专家系统出现，为工业、经济和社会领域带来了成功的方案，如第一个专家系统 DENDRAL 用于质谱仪分析有机化合物的分子结构，MYCIN18医疗专家系统用于抗生素药物治疗等。符号主义曾经在人工智能领域中一枝独秀，为人工智能发展做出了极大贡献，我国吴文俊院士关于几何定理机械化证明就是其中一项非常重要的成果。19当然，功能模拟也具有明
11、显的缺点:系统的智能水平与获得的知识水平有很大的关系。而且很多知识获取困难，专家知识充满矛盾和偏面，再加上现有逻辑理论的局限性等，使得功能模拟在发展过程中也困难重重。2. 3 行为模拟在功能模拟和结构模拟都暴露了各自的缺陷后，20 世纪 90 年代，开始出现了行为模拟的思路，即“行为表现论”。20该观点认为，无论采用什么样的结构和具有什么样的功能，只要系统能表现出智能行为(在外界刺激时能够产生恰当的行为响应)，就等于模拟了智能系统。在这个研究方法中，首先是机器感知，然后针对感知信息做模式分类，最后是对感知判断结果做出的模拟智能的行为，这也被称为感 知-动作系统。这方面的典型应用是 Brooks
12、 完成的模拟六脚虫的爬行机器人等系统。21感知-动作系统涉及到一个重要问题: 随着任务环境的变化，系统如何能自主学习并扩充从感知到动作之间的映射知识? 这当然就是一个机器学习问题。行为模拟也具有明显的缺点: 只有那些能用行为表现的智能才能被模拟，可是很多智能过程无法用行为直接表达。2. 4 机制模拟结构模拟、功能模拟和行为模拟都具有先天不足，而且这 3 大方法之间缺乏理论上的统一性。后来的研究发现，智能的生成机制才是智能系统的核心。机制模拟 方法认为，无论对什么问题、环境和目标，智能系统的生成机制必然要获得“问题、约束条件、预设目标”等信息，然后提取和建立相关知识，进而在目标控制下，利 用上述
13、信息和知识演绎出求解问题的策略，并转化为相应的智能行为作用于问题， 并解决问题。这可以概括为一种“信息知识智能转换过程”。根据这个观点， 结构模拟可以认为是“信息经验知识经验策略转换过程”，功能模拟是“信息规范知识规范策略转换过程”，行为模拟可以认为是“信息常识知识常识策略转换过程”。因此，结构模拟、功能模拟和行为模拟三者都是平行的，而机制模拟和谐地统一了上述 3 种模拟方法，成为了一个统一的理论。22在 AI 发展过程中，上述多个方法各自都出现过自己的发展巅峰和低谷时期。目前的 AI 热潮则源于结构模拟方法方面的突破，即由于解决了深度神经网络的训练问题，加上大数据的高性能计算平台( 云计算、
14、GPU 等) 变成现实，使得深度神经网络的表达能力得到了充分的发挥，对 AI 的发展起到了推波助澜的作用。本文将进一步以深度学习为主介绍其发展和成功案例。3 深度学习促进的人工智能发展深度学习提出至今，已经在各类应用上取得了巨大的进展。尤其是基于深度学习的 Alpha Go 系统一举击败韩国围棋手李世石以后，人们都对以深度学习为主的AI 研究充满了期待。事实上，现在几乎每天都可以看到 AI 取得各类突破的报道。感兴趣的读者可以在网上找到各种最新的进展报道。本文将选择其中几个主要的进展进行简单介绍。23深度学习在实际应用中的成功案例首推图像识别。2009 年，普林斯顿大学建立了第一个超大型图像数
15、据库供计算机视觉研究者使用，随后在以 Ima-ge Net 为基础的大型图像识别竞赛“Image Net LargeScale Visual ecognition Challenge 2012 ”中，Hinton 团队将深度学习应用到 Image Net 图像识别问题上，正确率稳居第一，并且性能遥遥领先第二名团队。这标志着深度学习在图像识别领域大幅度超越其他技术， 成为 AI 技术突破点。随后以深度学习为主的图像分析处理方法层出不穷，如深度残余学习( Deepesidual Learning) 方法等。目前基于深度学习的图像识别功能已经超越了人类。24语言是人机交流的一种重要途径，攻克语音识别
16、是 AI 必须面对的问题之一。最先开始在语音识别上取得成功的 深度 学 习方 法 是 Hinton 等在 文 献中的方法，该方法用 BM 对神经网络进行预训练，再用 深度 神 经 网络 模 型 (DNN) 识 别 语 音。 在 Google 的 一 个 基 准 测 试 中，单 词 错 误 率 降低 到 12. 3%。文献用 NN / LSTM 等技术在音位错误率测试中优于同期的所有其他技术。AI 在语音识别上的成功是继图像识别之后的又一个技术突破点。除此以外，深度学习在游戏方面也取得了突破。最为世人所称道的是 Alpha Go 对局李世石的比赛，Alpha Go 以压倒性的胜利赢了人类顶级棋手
17、，其中很多精妙的招式让人叹为观止。到底是深度学习算法已经像人类一样具有了创造力还是神经元参数、适当的算法结合CPU的计算蛮力下的成功，值得人们深思。Google的Deep Mind 团队开发的深度 Q 网络( DQN) 在 49 种 Atari 像素游戏中，29 种达到乃至超过人类职业选手的水平。机器具有强大的计算能力、存储空间和检索速度，如果说机器在逻辑思维上能模仿并击败人类是合情合理的。那么说机器能学会艺术鉴赏，则将令人难以置信。实际上，文献中报道了深度学习已经可以分辨不同艺术作品的内容和风格，并且学会把一幅作品的艺术风格应用到其他作品中去。 Google 的 AI 实验室成功实现让机器学
18、习小说的叙述和文字用法，甚至句子的构造。这意味着深度学习可以量化很多人类独有的一些模糊的判决能力，有些感觉人类本身也不清楚如何解释，甚至只是停留在感觉层面，如艺术风格、文采特色以及棋类游戏中的棋面优势等。这些本来只可言传，不可意会的概念居然被机器学会了。到底是机器学习厉害，还是这些虚幻的概念后面其实有个虽然非常复杂，但是明确可以获得的函数在支配，而深度学习只是用其蛮力去把这些函数反映到了数亿冰冷的参数中去? 254 人工智能发展面临的主要问题和新的研究方向AI 概念提出以后，迅速发展成为一门广受关注的交叉和前沿学科，在很多方面取得了丰硕成果。尤其是近来深度学习的发展，更是将 AI 研究推向一个
19、新的高潮。深度学习的成功故事每天都在上演，似乎深度学习是无所不能的。所以，人们对 AI 产生浓厚兴趣，产业界首先布局，大量资本与并购的涌入并加速 AI 技术与应用的结合，蔓延升温。那么，抛开商业因素，AI 在技术上是否还存在什么问题? 它今后的发展方向是什么?深度学习技术和早年的多层神经网络相比，理论上的突破其实不大。深度学习现存一个根本的缺陷，就是缺乏完善的理论支撑，对于其结果缺乏解释，包括网络的设计、参数的设置和取得的效果。寻找理论上的深入解释，是深度学习发展必须解决的一个重要问题。目前深度学习一般需要大数据支持，但并不是所有的应用都具备大数据条件的。结合传统知识表达和数据驱动知识学习，可
20、以解决很多迫切的现实问题。这也是今 后发展的一个重要方向。26还有，深度学习在训练网络中需要大量有标记的数据去学习输入和输出的映射关系，这样获得的模型往往无法将其泛化到与训练时不同条件的数据集上。而现实应用中，我们遇到的数据集常常会包含很多新场景，许多数据是模型在训练过程中没出现过的，因此学习得到的模型可能无法很好地预测结果。将学习得到的知识迁移到新的条件和环境的能力通常被称为迁移学习，这是今后一个重要的研究方向。如果我们将迁移学习做到极限，仅仅从少数几个甚至零个样本中学习(如一次和零次学习)，将能解决更多实际问题。执行一次和零次学习的模型是机器学习中最难的问题之一，可这对我们人类而言却不是那
21、么困难的。这是 AI 发展一个值得深入研究的问题。另外有一个非常值得进一步思考的问题:是否非得要采用深度神经网络进行学习?如果所考虑问题的数据和目标之间的函数关系比较简单，那么我们完全可以用浅度的网络进行建模学习。但是如果这个函数的确比较复杂，是否一定要用深度网 络呢?针对这个问题，南京大学周志华教授等提出一种基于树的方法，叫“深度森林”27，来挑战深度学习。在设置可类比的情况下，深度森林取得了和深度神经网络相当甚至更好的结果，而且更容易训练，小数据也能运行。更重要的是相比深度神经网络，基于树的方法不会存在那么困难的理论分析问题。他们的方法为在许多任务中使用深度神经网络之外的方法打开了一扇门。
22、285 结论到目前为止，人工智能的研究依然还处于初级阶段，距离最终的目标还有很长的路要走。深度学习方法取得了巨大的进展，但是没有坚实的理论基础，无法实现对系统和性能的透彻理解和预测。29还有很多的问题摆在我们面前，如迁移学习、小样本学习、增强学习等，这些都是人工智能研究急需解决的问题。虽然人工智能在很多方面已经赶超人类，但是本质上离真正的智能还是有很大的距离，这也是我们进一步期待和努力的方向。30参考文献1 李蕾,王小捷. 机器智能M. 北京: 清华大学出版社,20162 顾险峰. 人工智能的历史回顾和发展现状J.自然杂志,2016,38(3) : 157-1663 Hinton G,Osin
23、dero S,Teh Y W.A fast learning algorithmfor deep belief netsJ. Neural Computation,2006,18(7) : 1527-15544 Hinton G, Salakhutdinov R R. Reducing thedimensionality of data with neural networksJ.Science,2006,313(5786) : 504-5075 钟义信.高等人工智能原理: 观念方法模型理论M.北京: 科学出版社,20146 Mc Culloch W S,Pitts W.A logical c
24、alculus of the ideasimmanent in nervous activity J. Bulletin ofMathematical Biology,1990,52(1/2): 99-1157 Rosenblatt F. The perceptron: A probabilistic model forinformation storage and organization in the brainJ.Psy-chological Review,1958,65(6) : 386-4088 Haykin S.Neural networks: A comprehensive fo
25、undationM.Upper Saddle River,NJ: Prentice Hall,20049 Lindsay R K,Buchanan B G,Feigenbaum E A,et al.DENDRAL: A case study of the first expert system forscientific hypothesis formationJ. ArtificialIntelligence,1993,61(2): 209-26110 Shortliffe E H.Mycin: A rule-based computer program foradvising physic
26、ians regarding antimicrobial therapy selec-tionD.Stanford: Stanford University,197511 Brooks R A.Intelligence without representationJ.Artifi-cial Intelligence,1991,47(1/2/3): 139-15912 RumelhartDE,HintonG,WilliamsRJ.LearninginternalrepresentationsbyerrorpropagationJ.Readings in Cog-nitive Science,19
27、88,1: 399-42113 Rumelhart D E,Hinton G,Williams R J.Learning repre-sentations by back-propagating errorsJ.Nature,1986,323(6088): 533-53614 Hornik K.Approximation capabilities of multilayer feed-forward networks J. Neural Networks,1991,4(2): 251-25715 Csji B C.Approximation with artificial neural net
28、worksD.Budapest,Hungary: Faculty of Sciences,Etvs LorndUniversity,200116 Le Cun Y,Boser B,Denker J S,et al.Backpropagation ap-plied to handwritten zip code recognition J. NeuralComputation,1989,1(4): 541-55117 LeCunY,BottouL,BengioY,etal.Gradient-basedlearningappliedtodocument recognitionJ.Proceedin
29、gsof IEEE,1998,86(11): 2278-232418 Hochreiter S. The vanishing gradient problem duringlearning recurrent neural nets and problem solutionsJ.International Journal of Uncertainty,Fuzziness andKnowledge-Based Systems,1998,6(2): 107-11619 Vapnik V.The nature of statistical learning theoryM.New York: Spr
30、inger,199920 Glorot X,Bordes A,Bengio Y.Deep sparse rectifier net-worksJ. Journal of Machine Learning Research,2011(15): 315-32321 孙志军,薛磊,许阳明,等. 深度学习研究综述J. 计算机应用研究,2012,29(8):28062810.22 林妙真. 基于深度学习的人脸识别研究D. 大连:大连理工大学,2013. 7 朱明,武妍.基于深度网络的图像处理研究J.电子技术与软件工程,2014(5):101-10223 蒋宗礼.人工神经网络导论M.北京:高等教育出版社,200124 郭丽丽,丁世飞.深度学习研究进展J.计算机科学,2015,5:28-33.25 焦夏,张世波. 基于移动学习的成人深度学习模式研究J.中国教育信息化,2012,(19):82-85.26 潘庆玉. 导向深度学习的游戏沉浸式教学模式J.当代教育科学,2009,(10):20-24.27 蒋梦娇,邹霞. 基于 MOOCs 环境的深度学习研究J.软件导刊(教育技术),2014,(07):37-39.28 陈意. 基于移动学习的深度学习研究J.江苏广播电视大学学报,2011,(01):24-26.29 王照亮. 基于 Web 的 3D 教育游戏的研究与设计D.宁波大学,
