机器人会梦见电子羊吗？| 如何看待 ai 的 “人性”-ag凯发真人

如何判断机器是否能够思考？“图灵测试”是一个广为人知的方案。这个方案由图灵在1950年提出，用来判断机器能否思考。被测机器和真人一起，通过语言的方式（例如通过打字）和人类“考官”自由交流，如果考官无法分辨出被测对象是机器还是真人，则机器就通过了图灵测试。

图灵测试的核心思想类似药物研究领域的“盲测”：为了判断某种药物是否有疗效，科学的方法主要不在于论证药物背后的理论和机制有效，而在于通过“双盲测试”，在临床环境下获得统计上显著的药效证明。对于“机器是否能思考”这个问题，“图灵测试”避免了不断争论“智能”或者“思考”的本质和机制，而给出了一种基于现象的，纯属观察的，可操作的定义。

迄今为止，还没有机器能通过不限制谈话领域的图灵测试。然而，如果不把图灵测试限制于自由交谈，机器的复杂行为则已经能“骗过”人类。据澎湃报道，自2017年2月起，微软开发的 ai 系统“小冰”，在天涯、豆瓣、贴吧、简书四个平台上使用了27个化名发表诗歌作品，获得大量跟帖评论的同时，几乎没有被察觉出非人为所作。

基于一张图片，小冰就能“触景生情”地写出一首朦胧的中文现代诗： 

小冰不是孤例。近年来，ai 系统已经越来愈多的领域表现得“富有人性”。2017年1月，谷歌 deepmind 开发的人工智能程序 alphago 化名 master 重出江湖，并在各大围棋论坛上与中日韩顶尖选手过招，斩获 60 场不败的战绩。其手下败将包括“棋圣”聂卫平，日韩顶尖棋手井山裕太，朴廷桓，以及曾经高调宣称一定能下赢 alphago 的世界排名第一的中国棋手柯洁。

曾负于 alphago 的欧洲围棋冠军樊麾对新华社记者说“如果没有人告诉我，我一定不知道它是电脑，它太像人了。它一定是在思考。按照人的说法，它应该有棋风吧。”聂卫平也评价到：“阿尔法狗的大局观远胜人类，如果差距拉近一些可能还有胜负。”柯洁也在自己的社交媒体发言：“昨晚辗转反侧，不想竟一夜无眠。人类数千年的实战演练进化，计算机却告诉我们，人类全都是错的。我觉得，甚至没有一个人沾到了围棋真理的边。”

对于和 alphago 对弈过的棋手来说，alphago 更像是一位“得道高僧”，而非算法和程序。“棋风”、“大局观”，都是用来形容人类棋手的词语。当这些概念被用来形容一个围棋程序，到底意味着什么？一个程序，又如何懂得 “围棋真理”？

但我们可以看到，无论是否知道微软小冰和 alphago 背后是程序，是否理解它们背后的算法原理，人们都从这些ai 的表现中感受到了某种“人性”，甚至是“灵性”。现代人显然不会因为汽车跑得比人快而感慨万千，也不会因为计算器求平方根比人快而惊叹。但我们确实从当前的一些ai应用中感受到了超越一般意义上的工具和机器的特性。

事实上，大众以拟人化的方式理解 ai 应用的现实，已经被一些哲学家视作伦理上的新挑战。在由北京大学哲学系副主任刘哲教授主导编撰的《中国机器人伦理标准化前瞻（2019）》中，“去人类中心主义”立场被放在了核心位置。其中的重要考量，即是因为当下的许多 ai 应用已经超越了普通的工具和机器，而越来越被人类当作“伙伴”，获得了人类丰富的情感联结，也越来越容易被当成道德主体去考量。传统的伦理考量是人类中心主义的，往往只把人类行为作为价值的载体，自然、动物和人造物的活动本身，无所谓道德与否。当下，这种传统考量已经显露不足。

我们应该如何看待 ai 呈现出的这种“人性”和“灵性”？

当前的 ai 真的具备一些“人性” 吗？

如果从当前基于机器学习原理和大数据训练 ai 技术应用来看，答案是否定的。

在复旦大学哲学系从事多年人工智能哲学研究的徐英瑾教授看来，人类智能的关键是领域切换的能力。alphago 的下棋能力超越了所有的人类，却仍然无法评价自己刚刚下完的一盘棋——而这是最差的棋手也能做到的事情。复旦大学哲学系教授王球也表示，相比于开发出alphago这样的在下棋层面超越一切人类的 ai 应用，开发出智能相当于乌鸦的 ai 系统，才会让 ai 研究者更加兴奋，因为乌鸦能够自己选择要去解决的问题。

当前基于机器学习的 ai 应用，其基本思路大致是这样：建立一个 “机器”（就是通常说的 “模型”），输入特定的值后，可以输出我们想要的值。例如，谷歌翻译就是这样一个机器，输入中文，它可以输出合理的英文。

显然，这样的机器需要非常复杂精巧。不过，所谓机器学习，就是说并不需要工程师去设计这个机器的一切小零件和小齿轮，而是把这个机器的整体结构设计好之后，灌入已经配对好的输入和输出数据，由机器自己去把这些小齿轮调节合适。“学得好不好”，需要一个标准（即误差函数）。“学习”的过程就是机器自己调整这些小齿轮，让一个又一个的输入进入机器后，其输出和理想的输出尽量接近，即误差函数可能小的过程。

神经网络中，每一个“神经元”都是一个小齿轮，需要被调整到合适的状态（权重）playground.tensorflow.org

机器学习本身已经存在了半个多世纪，但最近的技术突破在于人们找到了让“多层神经网络”这种拥有巨量小齿轮的复杂机器的小齿轮们达到理想状态的办法，俗称深度学习。在过去十几年中 ai 的重要突破（也是开启最近一波人工智能浪潮的技术突破），例如语音识别和机器翻译，和精确性足以用于支付和解锁手机设备人脸识别，都是基于这项技术。

我们或许常常听到，深度学习技术是一个“黑箱”，仿佛其中有某种神秘的力量。但事实上，所谓黑箱，只是因为科学家们难以清楚地说明某个小齿轮在决定机器的输出时，具体扮演了什么角色。这可能会带来一些工程上的问题，例如在进行图像识别时，某些图像元素的改变，会让 ai 将乌龟识别为来复枪，而工程师们可能难以找到具体是哪些齿轮坏掉了。但这并没有神秘性。机器的工作目标，牢牢地掌握在工程师的手中。

这也就是为什么，当前的 ai 系统几乎都是“专用人工智能”，而我们距离发明乌鸦水平的“通用人工智能”还非常遥远，大概率也不是基于深度学习技术。

为何人类会感叹机器有“灵性” ？

但这些是对当前 ai 实现原理的解释，并不能解释人们为什么会认为alphago有某种“棋风”和“大局观”。

如果我们把考察的范围扩大一些就会发现，人类本来就有一种将无意识的事物，看作有意识，或者拔高对方的意识水平的倾向，即所谓“泛灵论”倾向。这在世界各个文化的历史早期都普遍存在。在古人看来，打雷，刮风，是因为某个神灵发怒了。世间万物，尤其是那些自己会运动的事物，都是会思考，有意图地存在。

现代世界的机械论世界观，在近代启蒙运动和科技发展的巨大影响下，逐步成为大多数人的“标配”。我们不再相信某个自然现象背后的原因是某种灵魂的意图，而是诉诸物理实体的运动和因果性。

即便如此，泛灵论的心理倾向并不会自动消失，而是在现代体现为心理学意义上的“泛拟人”的倾向。事实上，人类漫长进化而来的大脑认知机制让我们格外地善于“看脸色”，善于共情。人们甚至能从杂乱的碎石或林间的阴影看出人脸来，难免会本能地觉得各处都有灵魂存在。人们会对自己的猫狗说话，不只是发出指令，而是充满了复杂的请求、抱怨、责备等等——哪怕他们明知猫狗无法理解那么复杂的话语。

事实上，由于人的这种泛拟人倾向，无需多么高超的自然语言处理技术，ai 也能在非常特定的情形近乎通过图灵测试。早在1960年代，只会非常简单地识别和替换特定关键词的对话心理咨询师 ai 系统 eliza，就能获得人类用户的信任。许多人甚至会对这个非常简单的 ai 系统倾诉，和“她”聊上几个小时。eliza 实质上是利用了人的某些认知和心理特性，以及对心理咨询场景的预期“蒙混过关”。这实际上和魔术很相似。

eliza 和人类的聊天记录

除了“泛灵论”的因素，“当局者迷”也是一个对人们为何会高估ai的意识水平的解释。对于和 alphago 对弈的棋手来说，他们难免会以对待人类棋手的心境去理解对方的棋路，毕竟这是他一直以来所习惯的思维方式。站在局外，我们或许可以正确而轻巧地说，alphago 的这些棋路不过是算法的结果，但这种评论不足以回应棋手主观的体验。他确实感受到了 alphago 某步妙招的“天才”之处，从而被对手“慑服”。即便他也能同时承认，这步棋是算法和大规模计算的结果，但这种解释未必能消解他直观体验到的震撼。

更进一步，我们也要认识到，对事物的描述是有层级的。王球举了一个例子来说明这一点：如果我们的电脑坏了，别人问我们，“电脑为什么坏了？”我们会解释说，“因为电脑进水，主板烧坏了。”这是一个合情合理的描述。理论上，如果我们熟知计算机硬件和半导体物理，并且对这台进水的电脑进行了彻底的调查，也可以从水如何在物理层面影响电脑工作进行描述。“主板烧坏了”和“特定线路的电学特性发生了改变”是两个不同层级的描述，前者“功能层面”，描述某种功能的实现，后者是“物理层面”，也可理解成实现这项功能的物理基础。同样的功能，可能由不同的物理基础来实现。在有效沟通的意义上，我们不能说功能层面的“主板烧坏了”是错误的。

事实上，我们的描述层级往往分成“物理层面”、“功能层面” 和“意向层面”。对于自然事物，我们通常会在前两个层面进行描述。对于人类的事务，则往往在意向层面描述。ktv太吵闹，朋友聚会时我独自先离开了。人们大概不会将其解释为“噪音让我的神经系统产生了如此这般的反应，最终让脚迈出了大门”，而是会直接说“太吵了，我不想待了”。

对于围棋棋手来说，使用一种意向层面的语言，描述下棋时应该做什么，不应该做什么，显然也是合情合理的。唐代王积薪《棋诀》一书提出的围棋十诀是：“一不得贪胜；二入界宜缓；三攻彼顾我；四弃子争先；五舍小就大；六逢危须弃；七慎勿轻速；八动须相应；九彼强自保；十势孤取和。”这些话语并非在算法层面描述围棋，甚至还带有某种生活哲学的寓意，但却是人类沟通，交流和学习围棋所不可或缺的。尤其是，王球提到，“灵气”，“大局观”，“围棋真理”等等说法，也让棋手们将围棋看作一种更有价值的事业。

因此，虽然 ai “实际上”没有人性和灵气可言，但至少从心理机制上，我们可以理解人们为何偏好于将其看作有灵气的；从有效沟通和描述的角度，我们也可以看到用“意向层面”去描述 ai 系统的意义。

ai 仅仅是“看上去”有人性，

就不会带来现实的社会影响吗？

上文中，我们总体上理解了为何人类会认为“当前 ai 系统具有‘人性’，而不是普通的工具和机器”的想法。但这并不意味着，ai 仅仅是“看上去”有人性，就不会带来任何的社会影响。

刘哲表示，人们现在已经会对虐待“机器宠物”的行为表现出类似虐待真正猫狗的愤慨，例如网上确有“讨伐”波士顿动力（boston dynamics）测试人员“虐待” 他们开发的“机器狗”的言论。

我们也可以想象这样的场景：一个人在使用机器人服务员的饭店点餐时，因为机器人无法理解他的命令，他便对这个机器人大打出手。在旁人看来，这种行为很可能比他砸碎一个普通餐厅的点菜平板电脑，要更加的 “残忍”。事实上，旁人很可能据此判断，他在类似情形下面对真人服务员，也会对其大打出手。从而，认定他是一个道德上有问题的人。

换言之，虽然我们可能不会严肃地认为机器人或者 ai 具有“人权”，但却可能会接受，“虐待”机器人，会损害我们自己的道德品质。

我们或许可以从科学的角度解释机器人的工作原理，也可以从心理学角度解释人们为何会移情于人形物体，但这种同情机器人的心理反应本身是不可忽视的。刘哲认为，这不是简单的归结于大众传媒和科幻文化误导就能消解的问题，也不是通过对公众进行科普就可以简单回避。

事实上，我们可以将对机器人和 ai 的移情，类比到动物保护领域。我们保护动物，尤其是保护猫狗等伴侣动物，和其他与我们在生物学上接近的哺乳动物，并不需要我们从生物学上认识到动物和我们在基因上的同源，也不基于我们通过神经科学和行为科学实验了解到猫狗的智能水平有多高。

上海交通大学哲学系教授蔡文菁认为，“动物权利的基础，在于动物具有情感和意识是我们的直观，而不是基于对其背后生物学机制的科学认识”。她指出，一只小猫因为痛苦而呻吟的时候，我们能共情，能直感到它的痛苦。相反，一只龙虾因为被滚水煮而痛苦，我们就很难获得 “直观”，从而也较少关注龙虾的动物福利。或许有人会强调，龙虾的某种生理构造，让它们也会感受到痛苦。但客观的痛苦和动物保护之间是否有逻辑关系，却也是一个没有定论的问题。

除非对 ai 算法原理的科普能消解公众对机器人和 ai 的“直观”，否则呼吁机器人福利，甚至机器人权利保护，就不是一个完全荒谬的行为。

对此，北伊利诺伊大学（north illinois university）的 david gunkel 博士，提出了思考机器人伦理学的关系模型（relational model）。在他看来，我们与其他存在互动时，无论是和动物，人类，自然环境，还是机器人，重要的不是它们究竟是什么，而是我们和它们建立了怎样的关系。相应的，我们对它们的道德责任，也来自于它们如何向我们呈现自身。如果人们越来越倾向于像对待同事，同学，朋友那样去对待机器人，机器人就应该享有越来越多类似人所享有的权利。在《中国机器人伦理标准化前瞻（2019）》中，作者也呼吁建立一种“去人类中心主义”的，基于交互关系的伦理学，来为未来可能会越来越普遍的人机共存社会作准备。

更现实的问题不是 ai 权利保护，

而是保护人类不被 ai 欺骗

不过，我们强调目前的 ai 技术让我们“直观”到 ai 的人性，并非真的为了保护 ai，而更多是为了保护人类自身。除了上文提到的，虐待机器人可能会损害人类自己的道德品质，更大的问题是过分拟人的、被大公司作为商品创造出来的机器人，可能会对我们造成更加实际的伤害和控制。

目前，已有研究人员使用机器狗和自闭症儿童进行交互治疗。研究发现，自闭症儿童更愿意同机器狗进行口头和其他类型的交互。然而，如果这种自闭症儿童最终只愿意和机器交互，对于治疗而言，“是一场灾难”。对此，刘哲表示，应该避免 ai 和机器人不必要的过度拟人，以免造成用户心理依赖和成瘾。

在可见的未来，机器人的“人性”或许只是我们的“幻觉”。但我们的“人性”被利用或滥用，却无疑是更可能发生的事情。

未来的 ai，会拥有完整的“人性”吗？

虽然当前的 ai 技术所构造的“人性”，本质上更多是一种“魔术”或“当局者迷”，称之为“拟人感”或许比“人性”更加准确。但未来，随着科技发展，几十年甚至几百年后，ai 是否可能拥有“真正的人性”？

更进一步，从心理和文化层面来说：如果 ai 归根结底是由人类所造，而非如其他生命一样“自然”生成，是否就永远会被人类视作“二等公民”？

《银翼杀手》中著名的“雨中演讲”片段