《人工智能革命》读书札记

　　导读

　　AI真的是越来越火，产业化应用也开始越来越普及。以前陆陆续续地看过很多文章，也零碎地了解很多知识，比如算法、机器学习(ML)、深度学习(DL)、循环神经网络(RNN)等。

　　最近，静下心来，认真看一本2017年6月出版的书(《人工智能革命：历史、当下与未来》王天一著。觉得对自己非常有用，于是写下这个札记，供大家参考，如果需要更好地理解，建议去买一本，真的是一本很好的人工智能科普书籍。当然也可以找一所职业学校去学习一下人工智能，推荐到智达人工智能学院去学习一下。

　　人类智能的本质是什么？这是认知科学的基本任务，也是基础科学面临的四大难题中最难解决的一个。

　　人类之所以会把实现人工智能的期望寄托在计算机身上，其基础在于“认知的本质是计算”这一著名论断。

　　截至目前，所有的计算机都未能超出图灵机的范畴，也就必须遵循数理逻辑定义的规则。从“认知即计算”的角度出发，基于计算机的人工智能如果想要达到近似人类的思维能力，也必须建立起“自我”的概念，这无疑会导致自指的出现，也将成为不完备性定理的活靶子。

　　1.图灵是谁？

　　学计算机的人一定听过图灵奖，最近对人工智能有些接触也一定听过图灵机。艾伦·图灵就是那个发明用机械方法来解决数据问题的人。他首次提出图灵机的概念。图灵机以天才的抽象性模拟人脑的计算过程，将其还原为若干最基本的机械操作。图灵机的出现本来是用于解决纯数学中的基础理论问题，却带来意想不到的巨大收获：年仅23岁的图灵第一次接触到德国数学家大卫·希尔伯特(David Hilbert)23个世纪问题中的第十问题：“能否通过机械化运算过程来判定整系数方程是否存在整数解？”图灵清楚意识到，解决这问题的关键在于对“机械化运算”的严格定义。图灵机的纸带被划分为小格，每格中只能有0和1两种符号。

　　2.冯·诺依曼体系结构

　　冯·诺依曼体系结构

　　可以理解为计算机体系结构。这个诞生在列车上的卓越思想，冯·诺伊曼体系结构给计算机的性能带来革命性突破，冯·诺伊曼体系结构包括五大部分：运算器、控制器、存储器、输入设备和输出设备，为电子计算机的逻辑结构设计奠定基础。冯·诺依曼理论的要点是：数字计算机的数制采用二进制；计算机应该按照程序顺序执行。

　　3.人工智能元年

　　1956年8月美国达特茅斯学院(Dartmouth College)召开的学术会议。这次会议最重要的成果就是确定会议所讨论的研究内容的名称——由麦卡锡提出的人工智能(Artificial Intelligence)，1956年也就成为人工智能元年。20年后分享图灵奖的纽埃尔和西蒙在达特茅斯会议上展示人类历史上首个人工智能程序“逻辑理论家(Logic Theorist)”，“逻辑理论家”的出现在人工智能的历史上具有里程碑式的意义。这不仅因为它是第一个人工智能程序，更因为它颠覆人们对计算机的印象。

　　4.专家系统

　　美国计算机科学家爱德华·费根鲍姆(Edward Feigenbaum)正是人工智能新路的开拓者。受到哲学家弗朗西斯·培根(Francis Bacon)“知识就是力量”著名论断的指引，费根鲍姆将视线从抽象的通用证明方法转移到具体的专业知识上，强调人工智能必须在知识的指导下实现，这催生人工智能新领域——专家系统(Expert System)的诞生。

　　专家系统机制

　　所谓的专家系统实质上是利用计算机基于已有的知识进行自动推理，从而以领域专家的角度解决实际问题。，在1977年第五届国际人工智能大会上，费根鲍姆用术语“知识工程”为这个全新的领域命名。

　　5.人工智能领域的三大学派

　　在人工智能学术界，很早就有人提出过自下而上涌现智能的方案，只不过它们从来没有引起大家的注意。一批人认为可以通过模拟大脑的结构(神经网络)来实现，而另一批人则认为可以从那些简单生物体与环境互动的模式中寻找答案。他们分别被称为连接学派和行为学派。与此相对，传统的人工智能则被统称为符号学派。自20世纪80年代到90年代的十年间，这三大学派形成三足鼎立的局面。三大学派分别从高、中、低三个层次来模拟智能。

　　三大学派，三足鼎立

　　(1).符号主义学派

　　符号主义学派的代表人物是达特茅斯会议的与会者之一麦卡锡，而他对人工智能的理解也代表符号主义学派的见解，“(人工智能)是关于如何制造智能机器，特别是智能的计算机程序的科学和工程。它与使用机器来理解人类智能密切相关，但人工智能的研究并不需要局限于生物学上可观察到的那些方法。”。符号主义学派认为人工智能源于数理逻辑。用于机器定理证明的逻辑演绎系统事实上也继承图灵测试的衣钵。该学派认为人类认知和思维的基本单元是符号，而认知过程就是对符号的逻辑运算。

　　(2).连接主义学派

　　连接主义学派并不认为人工智能源于数理逻辑，也不认为智能的关键在于思维方式。这一学派把智能建立在神经生理学和认知科学的基础上，强调智能活动是由大量简单的单元通过复杂的相互连接后并行运行的结果。

　　(3).行为主义学派

　　在智能方面，行为主义学派并没有把关注焦点放在人类身上，而是投向昆虫。行为主义学派的机械代表作首推美国麻省理工学院教授罗德尼·布鲁克斯(Rodney Brooks)设计的六足行走机器人，它被视为“控制论动物”，是一个基于感知-动作模式模拟昆虫行为的控制系统。

　　行为主义学派的算法代表则是美国科学家约翰·霍兰(John Holland)提出的遗传算法和美国心理学家詹姆斯·肯尼迪(James Kennedy)提出的粒子群优化算法。遗传算法对进化中的自然选择现象进行高度抽象，通过变异和选择，实现目标函数的最优化；粒子群优化算法则通过模拟动物的群体行为解决最优化问题。

　　6.通用人工智能

       通用人工智能(Artificial General Intelligence)由德国计算机科学家马库斯·胡特(Marcus Hutter)提出，计算机科学与技术专业用语，专指通用人工智能。为了与传统人工智能或主流人工智能的AI用词相区分，故此增加General。他对这一概念给出精当的定义：

　　智能是主体在各种各样的纷繁复杂的环境中实现目标的能力。

　　谈论通用人工智能，“哥德尔不完备性”定理就是个不可回避的问题。这一定理由奥地利数学家哥德尔提出——就是气走冯诺伊曼那位老兄，是对希尔伯特提出的23大难题中第二个的回应。

　　(1).哥德尔不完备性定理

　　在任何包含初等数论的形式系统中，都必定存在一个不可判定命题。为了通俗地解释不完备性定理，比如：这句话是错的。

　　把这一概念翻译成计算机能够理解的语言，得到的结果就是通用归纳模型和序贯决策理论的结合。通用归纳将归纳转化为预测，而预测的关键是对数据的建模或编码表示，预测的精度依赖于对模式的掌握程度。诸如分类、类比、联想、泛化等与智能相关的要素，都可以被广义地理解为对模式的追求，对计算机而言则是找寻最优编码。但找寻最优编码的过程无法通过解析方式执行，只能通过试错不断逼近。

　　(2).序贯决策理论

　　试错的实质就是序贯决策理论，它研究的是在客观概率分布已知但具体状态不确定的动态环境中，主体如何寻求最大化期望效用。它从初始状态开始，每个时刻根据所观察到的状态和以前状态的记录，依照已知的概率分布，从一组可行方案中选用一个能够获得最大化期望效用的最优方案，接着观察下一步实际出现的状态，然后再作出新的最优决策，如此反复进行。但最关键的问题是，如果这种客观的概率分布未知怎么办？

　　建立未知概率分布下的决策体系，就建立通用人工智能，这也正是“算法概率”的宗旨与要义。

　　7.模式识别

　　通过计算机来实现人工智能，最初的路径是模式识别(Pattern Recognition)。模式识别的黄金时代出现在20世纪80年代，它强调的是如何让计算机程序去做一些看起来很“智能”的事情，就像是有个人躲在盒子里伪装成机器的样子。模式识别技术的主要作用在于发现、区分、检测或提取存在于我们周围世界中的模式，这依赖于怎么从观察数据中进行信息提取和表示，结合背景知识，最终得到新知识和概念的形式。

　　早期的计算机模式识别研究将重点放在数学模型的建立上。模式识别的范畴，人工神经网络正是解决模式识别问题的主流方法。

　　8.多层神经网络的工作原理

　　下层神经元的输出是上层神经元的输入，不同层次的神经网络使用不同的神经元来分辨输入信号的不同特征，经过多层神经网络处理后得到的不同区域还可以进一步进行交、并、异或等逻辑运算。这样一来，多层神经网络就可以表示出更复杂的空间划分，得到更精确的判定效果，其代价则是更高的计算复杂度。

　　9.人工神经网络

　　人工神经网络的作用是分类，人工神经网络的数学本质是一种特殊的有向图，这个有向图可以由一层或多层节点组成，每一层的节点都通过有向弧指向上一层的节点，每一条有向弧都用一个权值来描述，同一层的节点之间则并无连接。输入层的节点按照有向弧的权值进行函数变换，变换后的输出传递给第二层的节点作为输入；第二层的节点如此这般执行同样的操作，其输出再作为第三层的输入。最后在输出层，哪个节点的数值最大，输入的信号就被划分在哪一类。

　　人工神经网络的本质是通过计算机算法来模仿、简化和抽象人脑的若干基本特性。1981年两位神经生物学家大卫·胡贝尔(David Hubel)和托尔斯滕·魏泽尔(Torsten Wiesel)连同另一位科学家分享诺贝尔医学奖，他们二位的主要贡献在于“发现视觉系统的信息处理方式：可视皮层是分级的”。

　　10.强化学习

　　强化学习是从动物学习、参数扰动自适应控制等理论发展而来，其基本原理是：如果Agent的某个行为策略导致环境正的奖赏(强化信号)，那么Agent以后产生这个行为策略的趋势便会加强。Agent的目标是在每个离散状态发现最优策略以使期望的折扣奖赏和最大。

　　强化学习把学习看作试探评价过程，Agent选择一个动作用于环境，环境接受该动作后状态发生变化，同时产生一个强化信号(奖或惩)反馈给Agent，Agent根据强化信号和环境当前状态再选择下一个动作，选择的原则是使受到正强化(奖)的概率增大。选择的动作不仅影响立即强化值，且影响环境下一时刻的状态及最终的强化值。

　　强化学习不同于连接主义学习中的监督学习，主要表现在教师信号上，强化学习中由环境提供的强化信号是Agent对所产生动作的好坏作一种评价(通常为标量信号)，而不是告诉Agent如何去产生正确的动作。由于外部环境提供很少的信息，Agent必须靠自身的经历进行学习。通过这种方式，Agent在行动一一评价的环境中获得知识，改进行动方案以适应环境。

　　强化学习系统学习的目标是动态地调整参数，以达到强化信号最大。若已知r/A梯度信息，则可直接可以使用监督学习算法。因为强化信号r与Agent产生的动作A没有明确的函数形式描述，所以梯度信息r/A无法得到。因此在强化学习系统中，需要某种随机单元，使用这种随机单元，Agent在可能动作空间中进行搜索并发现正确的动作。

　　总结

　　世界顶级的计算机科学家高德纳(Donald Knuth)曾经如此评价人工智能：“人工智能已经在几乎所有需要思考的领域超过人类，但是在那些人类和其他动物不需要思考就能完成的事情上，还差得很远。”

　　的确差的很远，我也认同。但人工智能不就是用来服务人类的不足，去更有效地去探索更多的未知领域和世界。

　　人类的发展过程就是人类的经验的积累过程，棋谱是专业棋手的经验，算法是码农的经验，案例是律师的经验，公式是数学家的经验。但经验不一定是完善的，好比围棋下法，变化太多，人类根本不可能去揣摩各种变化，因为人类的计算能力不足以思考所有的解。所以只能按照经验去设定主流的开局布局(因为这是前人经验，所以后来人也就不去找更多的新解，也可能靠人类的计算力根本算不出来)。

　　经验非常重要，但经验也局限我们。所以人工智能的辅助(不仅仅只是计算能力的提高)，可以观察和协助人类分析各类历史数据的趋势，对未来进行预测，以帮助人类做出决策。对于整个社会的发展起到非常跨越式的帮助。正如马斯克的Neuralink项目一样，让人连接AI或许是个好的方向。