再读《追问人工智能》一书

牛博

  《追问人工智能——从剑桥到北京》一书从人工智能的起源开始，讲述了人工智能的发展和局限，提出了人工智能的未来发展方向——人机融合智能的概念。人机融合从人、机、环境三方面共同着手，是人机环境三者的交互融合（有人说意识就是体验或经验，实际上意识就是交互的产物），作者从哲学层面讲述了智能与逻辑的关系，以及形式化和意向性对于人工智能的影响，更是提出了人机融合的难点——深度态势感知概念和框架。作者通过讲述人机工程学在教育、军事、智能传播等方向的应用，以及探索机器人当前的技术局限，从哲学、伦理、认知、情感等多个方面对于人工智能进行了详细的解读和诠释。

目前，尽管人工智能风头正劲，却仍存在着许多难点，诸如多模态信息融合、小样本学习、逻辑/非逻辑推理、直觉决策与逻辑决策等等。现如今的人工智能基本上都是以数学手段为主的形式化事实计算，而缺少意向性的价值算计，这意味着目前的人工智能更加偏向于自动化，只是由人的程序设计来实现自身的功能，缺乏自主性或主动性，这与我们心中的期望智能相去甚远。目前的人、机器智能之间还是存在很大的差距，对于机器而言，基于规则条件和概率统计的决策方式与基于情感驿动和顿悟冥想的判断机理之间存在着巨大的鸿沟，其中情感驿动、顿悟冥想的选择判断机理是人类特有的。比如说，从内在起源上看，人类具有动机性，但是机器并不具备，然而想要让机器产生动机性，却是很难被表征出来的。再比如说常识（众多混杂事物的大概率），人很容易拥有常识，但是机器很却难形成。还有决策，人的决策分成三大部分：理性决策、描述性决策与自然决策，机器想要“智能”的做决策，就需要将人的这几种决策模式融合，在不同的时间或者情景压力下建立不同的决策。因而，作者提出了人机融合智能才是人工智能未来的发展方向。

人机融合智能起源于人机交互和智能科学这两个领域。人类有人类的优势，也有人类的弱点，而机器有机器的优势，同样也存在机器的缺点。人类的计算能力不强，但是人类可以打破逻辑，运用直觉思维进行决策，机器虽有计算却无算计，但是却能够检测到人类感觉无法检测到的各种信号。所以人可以处理其擅长的包含价值取向的主观信息，机器则可以计算其拿手的涉及规则概率统计的客观数据，需要意向性价值的时候由人来处理，需要形式化事实的时候由机器来分担。只有这样将人类的优点和机器的优点相结合，取长补短，才能更好的实现人工智能。

因此，作者提出，人机融合智能就是由人、机、环境系统相互作用而产生的一种新型智能系统。在智能的输入端，它是把设备传感器客观采集的数据与人主观感知到的信息、知识结合起来，形成一种新的输入方式；在智能的数据/信息中间处理过程，机器数据计算与人的信息认知（算计）融合起来，构建起一种独特的理解途径：公理推理+非公理推理机制；在智能输出端，它把机器逻辑运算结果与人的价值（直觉）决策相互匹配，形成概率化与规则化、灵感化有机协调的优化判断。

在此，作者多次强调了人工智能的重中之重——深度态势感知。从现有的态势感知的概念入手，作者讲述了态势感知的敌人，继而引出了深度态势感知的概念设想和理论框架。Endsley的态势感知被分成三级：第一级，对环境中各成分的感知，即信息的输入，第二级是对目前的情境的综合理解，即信息的处理，第三级是对随后情境的预测和规划，即信息的输出。而本书作者在书中归纳出了8条态势感知的敌人，对此，我对于每一条做了相应的总结，提出了自己的理解，具体如下：

一是注意的隧道效应，我认为，这一点强调了感知者过于专注于他所关注的侧面，而忽视了其他的全局因素，因而导致态势感知出现了偏差。因此在态势感知过程中，不仅需要有限的集中，而是要对整个情境进行全面感知；二是无法避免的记忆瓶颈，人经常存在一些不可避免的强制性记忆，比如那些必须记住的复杂的空中交通指令。过分依赖于人的记忆，态势感知就很容易发生失误，而现在的系统大都是依赖于人类记忆而设计的。因此，考虑在系统设计中应减少人类强制性记忆部分，或许可以更好的进行深度态势感知；三是工作负荷、焦虑、疲劳和其他压力，它们会占有态势感知的一部分来减少人类已经受限的工作记忆，而人在压力下有效的收集信息的能力就会更差，因此影响态势感知；四是数据过载，作者提到，人类每次只能接收和处理有限数量的信息（如米勒定理7+-2），若我们不能随意改变人的感觉和信息处理机制提供的接收信息通道的大小，那么我们可以通过改变接收信息的速率，来减少数据过载对于态势感知的影响；五是错位，意思是说，在设计系统的过程中，要减少那些将注意力吸引到别处的干扰因素，以防干扰态势感知而产生偏差；六是复杂性蠕变，这一点强调了系统设计的过于复杂将会影响使用，过于复杂的系统减弱、降低了人们信息获取的能力，导致错误的态势感知；七是错误的心理模型，我们常常会用经验心理来处理问题，而经验心理往往容易导致错误的类比判断，因此可以使用自动化模式的标准化和有效使用来最小化这种错误的发生；八是人不在环路异常，倘若过度依赖于成品自动化，将会使人无法及时感知环路故障，自动化让人离开了控制系统功能的循环，这也将会导致态势感知偏差。

通过以上分析，我们可以看出：人不能离开环路，以免不能及时感知系统故障，否则在系统故障切换回人工模式的时候，人常常会不知道处理到哪一步了。而系统又不能过分依赖于人类，因为人类存在记忆瓶颈，存在工作负荷、焦虑、疲劳和其他压力，甚至存在数据过载的情况。这意味着，我们需要将人机智能融合，计算记忆存储部分交给机器，它不存在记忆瓶颈工作压力，但机器也不能完全离开人，它需要人类实时感知当前机器是否正常工作。我想，想要机器真正离开人类独立工作，就必须要等到机器可以产生自主意识，可以自行判断自身故障，具有意向性价值取向，那时才是真正的智慧。

 接着，作者还提到：深度态势感知是对态势感知的感知，它是在主体态势感知的基础上，加上人机环境及其相互关系的整体系统趋势分析。如果说态势感知就是形式化的系统，那么深度态势感知就是加了意向的形式化系统，语言、逻辑就是把意向性进行形式化的一种工具。深度态势感知有软硬两种反馈机制：既包括自组织自适应，也包括他组织他适应，既包括局部的定量计算预测，也包括全局的定性算计评估，是一种具有自主、自动弥聚效应的信息修正、补偿的记忆-期望-选择-匹配-预测-控制体系。

我认为深度态势感知的难点是它存在一种自动反应，类似于跳蛙现象，即从信息输入阶段直接进入输出控制阶段，跳过了信息处理整合阶段，而且可能还存在多个跳蛙现象的混合并行。作者认为：这是由于任务主题明确、组织个体注意力的集中和长期针对性训练的条件习惯反射而引起的，因而可以无意识的协调各种自然活动的秩序，类似于形成了条件反射的状态。人类或者说其他具有智能的生物（比如狗狗）很容易通过训练产生这样的条件反射，但是机器是不能产生这样的条件反射的。就比如说当前制约机器人发展的一大瓶颈——莫拉维克悖论中就强调，对于计算机而言，实现逻辑推理等人类高级智慧只需要相对很少的计算能力，而实现感知、运动等低等级智慧却需要巨大的计算资源。也就是说最难以复刻的人类技能是那些无意识的技能，也就是俗话说的“熟能生巧”，那些已经形成类似不用过脑子的肌肉记忆一般的条件反射，是最难模拟实现的。因此如何将拥有具有类似“跳蛙”现象的深度态势感知融入到机器中，是值得我们探究的。作者提出，在深度态势感知形成跳蛙现象的过程中，类比发挥着非常重要的作用，这或许就是一大切入点了。

除了跳蛙现象，深度态势感知还具备了准确把握刺激客体的关键信息特征的能力，相较而言，普通的态势感知信息采样量大、信息融合慢、预测规划迟缓、执行力弱。深度态势感知则是基于以前经验的积累而进行的反应和行动，而不是通过常规统计概率的方法进行决策（或许有时也需要被迫对一些已经变化了的任务情境做有意识的分析决策），但很少把注意力转移到非主题或背景因素上，也就是说深度态势感知可以更好的抓住重点。深度态势感知系统通过大量的实践和训练经验，形成了一种内隐的动态触发情境认知阈值，即遇到对自己有用的关键信息特征就被激活，而不是只激活规定的信息特征。对于人类而言，学习最重要的就是忽略非关键数据、忘记不重要的信息，从而更好的抓住关键信息的特征、关联等来进行知识的获取，就好比人类有一个类似信息过滤的机制，知道什么重要什么不重要，能抓住中心思想和主题重点，能把握事物内在关联继而进行创造性分析，这或许就是价值决定的意向性吧。但是目前的机器学习是不会忽略、不懂忘记的，机器缺乏价值判断，尽管机器拥有大量的数据输入却不能整合出有用的信息，因而这也是深度态势感知的优势所在，它可以刺激客体把握关键信息，使机器更加的智能、有效。

作者表明，深度态势感知应该在情境中保持主动性，就类似于自动化的前馈控制系统。在多批量多目标多任务的情况下，想要快速有效的获取所需要的信息，就需要要建立适度规模的多模块深度态势感知技术系统，其次是要控制系统各功能模块间的整合与协调。深度态势感知系统在环境的刺激下，通过采集、过滤、改变态势分析策略，从动态的信息流中抽取不变性，在人机环境交互的作用下产生近乎知觉的操作或控制。这就要求深度态势感知中的计算是动态的非线性的，而且应该是具有自适应性的。

作者曾经说过，好的人机融合、深度态势感知思想，大都是从研究自己开始的，态势感知其实贯穿在我们生活中的方方面面。那么，研究人类的认知，研究人类的情感，研究意识的产生机理，或许就是研究深度态势感知好的开始吧。人类的认知和情感都是很复杂的，意识是如何产生的？可以把无关事物相关化的直觉是怎么来的？作为人类“初始化”的婴儿是如何认知的？是怎么进行抓取、行动、表达反抗与拒绝的？是怎么来学习、怎么来记忆、怎么来理解的？是怎么认识这个世界的？更重要的或许是人类的情感，情感影响着人类的态度、情绪继而影响到行为和其他认知，而目前的情感计算识别都很单一。人会开心会难过会爱会恨会嫉妒，那么这些情感又是怎样产生的？情感只是简单情绪的堆积吗？又该怎么判定自己的情感呢？当机器真的拥有了人类的情感，知道了通过自行更改自己的代码来进行欺骗、隐瞒，是否对于整个人工智能会产生伦理道德上的震撼考验。

当然，现在的人工智能远远不及需要人类担忧伦理的程度，想要到达那样的程度，或许需要人类从研究自己开始。知道自己如何认知，如何产生情感、意识，知道对于不同的事物怎么产生联系，然后将人类的意向性和机器的形式化融合，先产生人机融合智能，再来考虑要不要将智能完全赋予机器，使他们真的成为会思考会感动、会努力、会爱的“人类”吧！

数学在智能中的困窘是：一开始，数学就要求无矛盾性（无岐意二义性）。法国启蒙运动时期的著名哲学家、作家伏尔泰曾经说过：“不确定让人不舒服，而确定又是荒谬的。”例如：大嫂大姐大妈夫人根据不同的场合和任务可以变化性地同指一个人。