我们的进化历史可以教会我们人工智能的未来

艾略特·布什（Eliot Bush）

随着人工智能的进步，专家警告说，它可能导致人类灭绝。这究竟是如何实现的是一个猜测问题，但不难看出，智能机器人可以建立更多的自己，改进自己的设计并追求自己的兴趣。这可能是对人类的威胁。

上周，人工智能安全峰会在英国布莱切利公园举行。它试图解决与最先进的人工智能技术相关的一些威胁，其中包括“失控”风险——这种系统可能变得独立的可能性。

值得一问的是，根据我们已经知道的事情，我们可以预测什么。能够独立行动并升级自己设计的机器将受到与细菌、动物和植物相同的进化规律的约束。因此，进化可以教给我们很多关于人工智能如何发展的知识，以及如何确保人类在它的崛起中幸存下来。

第一个教训是，从长远来看，天下没有免费的午餐。不幸的是，这意味着我们不能指望人工智能产生一个享乐主义的天堂，机器人仆人可以满足人类的每一个需求。大多数生物生活在生存的边缘，尽其所能地生存。今天，许多人确实过着更舒适和繁荣的生活，但进化历史表明，人工智能可能会破坏这一点。根本原因是竞争。

这个论点可以追溯到达尔文，并且比人工智能更广泛地适用。但是，使用基于 AI 的场景可以很容易地说明这一点。想象一下，我们未来有两个由人工智能管理的民族国家，人类不再做出重大的经济贡献。一个盲目地致力于满足其人口的每一个享乐主义需求。另一个国家对人类投入的精力更少，更专注于获取资源和改进技术。随着时间的推移，后者会变得更加强大。它可能会接管第一个。最终，它可能会决定完全放弃人类。这个例子不一定是民族国家，这个论点就行得通;关键是竞争。从这种情况中得到的一个启示是，人类应该努力保持其经济相关性。从长远来看，确保我们生存的唯一方法就是我们自己积极地为之努力。

人工智能也有可能逐步发展。与其说是纯粹的机器人文明如雨后春笋般涌现，不如说人工智能将自己融入到我们这个世界上已经存在的事物中。由此产生的混合实体可以采取多种形式;例如，想象一下，一家公司拥有人类所有者，但基于机器的运营和研究。除其他外，这样的安排将导致人类之间的极端不平等，因为所有者将从他们对人工智能的控制中获利，而那些没有这种控制的人将失业和贫困。

这种杂交种也可能是对人类的直接威胁所在。 一些人认为 “机器人接管世界”的情景被夸大了，因为人工智能本质上不会有统治的欲望。这可能是真的。然而，人类确实会这样做，这可能是他们为与机器合作做出贡献的重要组成部分。考虑到所有这些，也许我们要采用的另一个原则是，不应允许人工智能加剧我们社会中的不平等。

考虑这一切可能会让人怀疑人类是否有任何长期前景。从地球生命史中观察到的另一个结论是， 重大创新使生命占据了新的利基市场。多细胞在海洋中进化，并实现了在那里谋生的新方式。对于动物，这些包括 在沉积物和新型捕食中挖洞.这开辟了新的食物选择，使动物多样化，最终导致了今天存在的形状和生活方式的骚乱。至关重要的是，新利基市场的创造并不意味着所有旧利基市场都消失了。动植物进化后，细菌等单细胞生物 坚持.今天，他们中的一些人做了与以前相似的事情（并且确实是生物圈运作的核心）。其他人则从新的机会中获利，例如生活在动物的内脏中。

希望一些可能的未来包括人类的生态位。毕竟，人类需要的一些东西（如氧气和有机食品），机器不需要。也许我们可以说服他们进入太阳系开采外行星并收集太阳的能量。把地球留给我们。

但我们可能需要迅速采取行动。生物创新史的最后一个教训是，一开始发生的事情很重要。多细胞性的进化导致了寒武纪大爆发，这是5亿多年前大型多细胞动物出现多样性的时期。这些早期动物中有许多灭绝了，没有后代。因为幸存下来的动物继续建立了主要的动物群，所以这个时代发生的事情在很大程度上决定了今天的生物世界。它 有人争论过 在寒武纪有许多道路是可能的，我们最终得到的世界并不是注定的。如果人工智能的发展就是这样，那么现在是我们拥有最大杠杆来引导事件的时候了。

这似乎是一项艰巨的任务。但话又说回来，在四五百万年前，没有人会怀疑我们这个大脑狭小、相对像猿类的祖先会进化成可以对基因组进行测序并将探测器发送到太阳系边缘的东西。运气好的话，也许我们会再次挺身而出。

本文为观点分析文章，作者或作者表达的观点不一定是 《科学美国人》。