对话MIT教授泰格马克：如何理解人工智能的未来？

《生命3.0》是一本近来很火的畅想人工智能未来的书。该书作者迈克斯·泰格马克 （Max Tegmark）是麻省理工大学物理系终身教授，也是未来生命研究所（Future of Life Institute）创始人。该组织汇集了包括包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨在内的8000多名全球顶尖人工智能专家，致力于规避高级人工智能带来的人类生存风险。本周，笔者与泰格马克教授进行了一场有趣的对谈，对未来人工智能发展提出了许多有趣的观察。

迈克斯·泰格马克 （左）。《生命3.0》英文版书封（右），该书中文版已由浙江教育出版社于2018年出版。

《生命3.0》的主旨是生命发展的三段论。生命1.0的状态是生命之初的原生状态，虽然有生命，但说不上有思想。生命2.0的状态就是我们人类的现状，如果用计算机语言来描述，我们的血肉之躯就是人类生命的硬件，是百万年的进化而来的，而我们的头脑与思想却不是印刻在身躯之上，不是先天进化而来的，而是后天习得的。换句话说，我们的思想是可以被后天所设计的，这就是生命2.0与1.0的区别。而且，随着科学技术的进步，从语言、文字到印刷术、现代科学，再到计算机、互联网，人类个体智慧之间的联系变得日益紧密，人类整体智慧的沉淀不再会被任何一个人的大脑的有限容量所局限，这正是生命2.0的美妙之处，同时也为迈向生命3.0奠定了基础。

到了生命3.0的阶段，不仅软件可以后天被设计，硬件也是如此。生命不再依赖血肉之躯的进化，硅基（也就是基于硅片的）硬件也可以成为生命的载体。彼时，生命第一次可以甩掉血肉之躯，不再依赖生物的进化，而成为躯体的主宰。简言之，《生命3.0》中最重要的观点就是，机器可以和血肉之躯的人类一样，成为智慧的载体。而机器和人类最大的不同，恰恰在于机器的硬件不再受到进化的约束。《生命3.0》还有一个潜台词，即与人类相似的智慧，并不一定要依赖于自然进化出的人类大脑。机器的发明过程中有很多类似的例子，比如人类向往飞行，但人类设计出的飞机与大自然中的鸟类和昆虫都不同。

《生命3.0》是一本想象力丰富而逻辑推理严谨的著作，对人工智能大发展之后人与机器的关系做出了一种宏大的分析。泰格马克对人工智能的前景充满乐观，属于相信通用型人工智能（AGI—Artificial General Intelligence）有可能在我们有生之年出现的乐观派。但是，他不同于技术乐观主义者，认为技术的进步就必然带来人类的进步、必然能让人类面临的问题迎刃而解。他念兹在兹的，是如何为人工智能的发展框定一些共识和规则，确保未来即使人工智能达到甚至超过人类的智慧，也仍然会和人类的目标一致。

对于泰格马克提出的机器也会拥有智慧，并且可以让智慧不再依赖血肉之躯的观点，我有一定保留。目前已经有其他专家提出，智慧也许不仅仅与大脑相关，血肉之躯给我们带来的感官与反馈，可能与大脑一起作为整体，共同促成了人类智慧的产生。如果真是如此，人工智能的发展步伐可能要慢不少。

尽管如此，泰格马克仍然提出了“人与机器”未来相处的一些重要问题，不论人工智能的发展比我们想象地更快还是更慢，人工智能在乘数效应的推动下会变得越来越强大，到了那时，留给人类试错的空间将越来越小。当人类研发出核武器之后，必须就限制核武器达成公约，因为核战争一旦打响，人类的家园地球就可能面临毁灭。核战争不会给人类第二次机会，人工智能也是如此，当它变得更为强大之后，我们将不得不考量它是否会给人类带来伤害，因而必须达成一定的操作规则来确保其目标与人类一致。

地球历史上有太多降维打击的例子，非洲西部黑犀牛在2011年的灭绝就是一个晚近的例子，根本原因是有着更强大智慧的人类与黑犀牛的生存目标已经相去甚远。以此类推，当AGI超过人类的智慧时，如果他们的目标和人类生存的目标发生了偏差，人类灭绝可能是大概率事件。所以，人工智能的发展必须由人来确定方向，其中有两点特别重要：第一，我们要确保人工智能的稳定与安全，一方面尽可能降低人工智能犯错和宕机的可能，另一方面则是要确保人工智能不会被黑客所操纵；第二，人工智能必须可信，这是人工智能研究中的一个热点问题。

让人工智能理解人类的目标分成三步：学习、采用、保持。但是，就人工智能研究的现状而言，它们可以观察到的人类的行为和目标之间并不一定有明确的关联，从大量的行为中去了解真实的目标并不容易。《生命3.0》中举了一个例子，看到消防员去着火的房子里救女孩，人工智能可以理解为是消防员愿意为女孩的生命而献身，也可以理解为消防员很冷，要去着火的房子里取暖。我们如何让人工智能形成正确的判断，理解人类行为背后可以意会却并不言传的一些想法，是确保人工智能未来与人类目标一致的第一步。

我向泰格马克提出的一个问题是，人工智能未来更可能推动中心化还是去中心化？他的回答很有意思：一方面，从人类发展的历史上来看，科技的发展的确不断推动人类变得更集中，从分散的部落、村落，到市镇、都市、帝国，其实都是一个逐渐中心化的趋势。AI作为最新的通用技术，也一定会进一步推动中心化的趋势，让集中规划变得更有效率。但另一方面，AI的发展也让每个人可以获取更多的知识，每个人都将有更强的判断力，每个人都可以被赋能。从这一视角出发，去中心化的确也有它的价值。所以最终AI将如何去博弈，还很值得观察。

对谈还涉及到有关赛博格（Cyborg）也就是人机合体的问题。我问泰格马克教授，如果生命2.0是我们现在的模式——肉身是硬件，思想是软件，而生命3.0是未来的某种可能，我们不再需要肉身，可以设计新的躯壳，思想作为软件可以更好地传递和分享，那么人机合体的生化人会是中间的一个阶段么？

泰格马克与马斯克很熟，也了解马斯克等人创办的研究脑机合体的企业Neuralink。他一方面认为脑机合体作为一种科学实验能有多大发展前景值得观察，另一方面他也认为，人与机器最大的区别在于人脑作为大自然的进化是受到很多局限的，包括必须自给自足、必须能自我复制、带宽有限等等。但是机器则不同，且不说生物与物理的接口（血肉的神经如何与硅基的芯片结合）不容易，让有很多局限（比如说带宽）的人脑与芯片结合本身是否有意义，也值得商榷。

我们对谈中最重要的问题，是在迈向AGI的过程中，有哪些重要节点值得我们关注。泰格马克的分析十分有趣：其实我们可以从人与猫的智能的差别中得到启示。猫和人一样，有复杂的神经网络，可以比机器更好地手脑协同（脑爪协同），能够体察外部环境并做出反应。猫与人最大的区别在于猫没有逻辑思维能力。反观机器学习的历史，首先是人所主导的基于逻辑的编程和算法，然后才是这一波基于神经网络的AI。下一波，如果能把逻辑思维与神经网络的机器学习结合起来，则有可能推动从猫到人的突破，也就是机器智慧的突破。

既然提出了生命3.0这一概念，泰格马克是否愿意亲身实践？对于这个问题，泰格马克的回答是否定的，“除非我病入膏肓，没有其他任何选择。”这个回答有些出人意料，可见即使是泰格马克这样对未来充满乐观的研究者，仍然和大多数人一样——面对充满不确定性的未来，仍然会选择保守的视角。

（本文作者系《经济学人·商论》执行总编辑。）