从西部世界到黑客帝国，你创造的AI会抛弃你吗？

　　李钟豪

　　前两天，被造车不挣钱的焦虑追着跑的埃隆?马斯克（Elon Musk）突然“非常严肃地（原话：I am super super serious）”宣布要开糖果工厂，大佬的突然转身也迅速引来粉丝吐槽：“憋整那没用的了，赶紧把西部世界搞起来，我们不要糖，不要电动车也不要火箭，就想要tmd西部世界！”



　　而这位粉丝心心念念的“西部世界”正是出自著名黄暴电视台HBO的同名原创剧集。最近《西部世界》第二季带着“CHAOS TAKES CONTROL（混沌接管一切）”的副标题强势回归，开局三集便以9.3分的超高分牢牢占据豆瓣热门电视剧榜首位，同时也在IMDb和烂番茄收获了8.9分和100%新鲜度的好评。本季接续上一季的内容，继续讲述西部世界乐园中饱受折磨的强AI机器人“host”觉醒自我意识并反抗人类的故事。


Dolores在第二季第三集中明确表示自己要“支配这个世界（To dominate this world）”

　　《西部世界》的故事直指这些年来狂飙突进的AI技术与人类的关系。它将时间设定在四十年后的近未来，这段时间也将会是AI技术高速发展的“窗口期”，AI能否实现跨越式发展？甚至脱离人类控制？《西部世界》把这个现实问题，以一场视觉盛宴的方式，摆在了我们面前。

　　就像马斯克回复这位粉丝时所问的，“What do you think we’re living in？”（你以为我们住在什么地方？）尽管是调侃，但也从另一个侧面透露出这位大佬对现实的隐忧。

　　从“神谕”到“算法”，它们其实是一回事

　　《西部世界》第一季中，女主角Dolores的成长和变化是一条重要的主线。作为被创始人Arnold“特别照顾”的对象，她从被创造出来那天起就拥有定期和Arnold进行思想交流的机会，Arnold与Dolores的对谈就如同创人的上帝直接同人进行对话，引导着她一步步进化并形成自我意识。



　　而这种对话机制的效用正是基于二分心智（Bicameral Mind）理论而产生。这一理论由美国心理学家Julian Jaynes提出，他认为人类直到大约3000年前才具有完全的自我意识，在此之前，人类依赖二分心智生存，即当人类遭遇困境时，一个半脑会听见另一个半脑的指引，这种声音也就是所谓的“神的声音”，也就是说人在这时是意识不到什么是“我”的。



　　而随着人类尤其是人类语言系统的进步和发展，二分心智逐渐崩塌，人的行为由“神的指引”转为“自主选择”这才产生了自我意识。

　　对Dolores这样的机器人来说，Arnold的话正是“神谕”的体现，她的行为和思维都是由设计者的设计和引导而来。机器人脑中的“神谕”正是编程人员编写的程序所赋予它们的任务，而当机器人的创造者想要创造真正拥有自我意识的“新生命”时，就赋予这些机器人意外、羁绊、记忆和反思的可能，引导它们的二分心智走向崩塌，从而产生自我意识。相对应地，当Dolores开始与自己对话而非与Arnold对话时，就可以认为她的自我意识已经形成。


Dolores在第二季中完成了从听从“神谕”到发现自我声音的转变

　　值得一提的是，二分心智理论至今没有被证实，也没有被证伪，是一种小众的心理学理论，但它恰好与现今AI技术利用的机器学习算法、神经网络算法有异曲同工之妙。

　　机器学习简而言之就是通过特定的程序和算法对大量数据进行处理、分析，进而进行判断和决策的过程，其本质还是人类编写程序然后机器完成任务。这就和二分心智理论中人类意识产生前的“神谕”阶段非常相似。

　　而神经网络算法则是基于对人类大脑神经元结构的模仿，让机器去计算、感知和认知，进行输入和输出，但这种计算与人类大脑最大的区别就是只有前馈而没有反馈环节，而反馈正是能让人进行想象、内省和反思的关键，这也正是《西部世界》中开启机器人心智的钥匙。

　　然而有些讽刺的是，让人类可以松一口气的技术难关恰恰是人类没有认清自身的反馈机制，对自身认知的障碍也同样是保证自身安全的一道天然的保险。

　　从《西部世界》到《黑客帝国》

　　其实是一部“AI反杀”的末日预言

　　如果说《西部世界》展现了四十年后机器人觉醒后的反抗之路，那么另一部科幻巨作《黑客帝国》则设计了一个机器已经接管一切的未来世界，在这个世界里，人类反而成为了机器文明运作的能源和完善代码、系统架构的工具。两部作品恰恰建立在相似的哲学架构之中，对人类创造的AI技术充满担忧。

　　《黑客帝国》的前传动画短片集与《西部世界》有着惊人的相似性：大量机器人被生产出来并被人类奴役，极少数机器人逐渐觉醒自我意识，开始与被利用和最终被报废的命运抗争，觉醒的机器人团结起来并最终与人类开战。


“这些残暴的欢愉必将以残暴结局”是贯穿全剧的核心台词

　　而在《黑客帝国》的正篇中，主人公Neo与人类反抗军既是在为人类的生存和自由而斗争，同时也是在更高的维度上对机器文明进行系统升级，这又与《西部世界》的男主角William在乐园中的自我发现之旅神似。



　　《黑客帝国》中，Neo无意中联系上了人类反抗组织“Zion”，“你并不孤单”的回复也让他走上了觉醒和反抗机器文明之路。

　　如果更大胆一些，我们甚至可以将两个故事串联起来，构成一个关于人类未来的末世预言：

　　四十年后，AI技术取得巨大进展，搭载强AI的智能机器人不堪奴役奋起反抗，凭借强大的生存和战斗能力对人类取得压倒性的优势，并建立机器文明。

　　但由于AI在创造力和想象力上有所局限，机器文明的发展遇到了无法避免的瓶颈，它们必须借助人类的思考模式对系统进行升级，于是人类被“圈养”起来为机器文明所用。

　　人类中的少数意识到自己生活在机器文明所创造的幻象当中，于是奋起反抗，并最终与机器文明达成和解，求得生存权利。

　　人类还不能创造的“自由意志”

　　锁死AI发展的最后一道保险？

　　尽管影视圈的艺术家们对人类的未来充满担忧，但至少现在人类还不必担心自己被机器人取代。

　　不难发现，无论是《西部世界》还是《黑客帝国》，创作者都将人类与AI相区别的关键放在了“自由意志”这个命题上。而围绕人工智能、机器人的命题展开的故事往往也都是基于这个命题。

　　为后世创作者奉为金科玉律的“阿西莫夫机器人三定律”，即“机器人不得伤害人类，或看到人类受到伤害而袖手旁观；在不违反第一定律的前提下，机器人必须绝对服从人类给与的任何命令；在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己”，也正是在限制机器人自由意志的基础上又给予机器人充分生存可能的规则。



　　而人类能否赋予人工智能自由意志？如果可以做到，这样做是否会直接威胁人类自身的生存？正是当人类在不远的未来，不可避免地走到技术与伦理的交叉路口时，必须要面对的问题。

　　而在现阶段，无论是机器学习算法，还是神经网络算法，甚至是所谓代表未来的深度学习算法，都不能够让《西部世纪》中的Dolores为了解放自我举枪诛杀自己的创造者，也不能让《黑客帝国》中的机器构成足以捏碎人类社会的文明，更不可能让AI像Neo一样在决定自己未来的红蓝药丸之间作出自主选择。



　　从某种程度上来说，人类任何关于超级人工智能的想象，都是在对人本身的边界进行探寻和拓展。至少在今时今日，制造出与人类相同或超越人类的人工智能就如同人自己举起自己一样困难。“被AI抛弃（奴役）”也自然是一个伪命题。

　　但这个命题的一侧是野心，另一侧是担忧，也正是这种动态的制衡，使AI技术进步，也让人类自身走向进化。

　　编辑：蓝予 倪雪莹