包括苹果联合创始人史蒂夫·沃兹尼克（Steve Wozniak）和维珍集团董事长理查·布兰森（Richard Branson）在内的800多名知名人士，近日签署了一份公开声明，要求立即停止超级智能的开发。
“超级智能”是指在所有领域都超越人类认知能力的人工智能系统。这一概念引起了广泛关注，其潜力和风险并存，使得此次联名呼吁具有重要的现实意义。
这份此前未曾有过的联合声明，发出了关于超越人类智能的人工智能（AI）系统可能带来的风险的严厉警告，这些风险从经济崩溃到人类灭绝，无所不包。该声明被视为对OpenAI、Meta等科技巨头当前积极推进的AI模型竞赛“泼了一盆冷水”，并且很有可能成为AI行业发展史上的一个重要转折点。
据了解，这份联合声明的签署者名单汇集了全球最具影响力的科技领袖、科学家和公众人物。值得注意的是，连被公认为现代人工智能发展关键人物的约书亚·班吉欧（Yoshua Bengio）和杰佛瑞·辛顿（Geoffrey Hinton）也在其中，他们的参与无疑增加了声明的分量。
“超级智能的前景已经引起了人们的关注，其潜在影响涵盖了经济的剧烈变动、权力的重新洗牌，个人自由、公民权利、尊严和自主性的丧失，乃至国家安全面临的严峻挑战，甚至可能威胁到人类的生存，”签名者以直言不讳的措辞警告道。这番话语，并非空穴来风，而是基于对AI技术发展深层次的忧虑。
当前，AI领域的竞争异常激烈。就在这份请愿书发布的背景下，Meta将其人工智能部门重命名为“Meta超级智能实验室”（Meta Superintelligence Labs），而OpenAI和埃隆·马斯克（Elon Musk）创立的xAI也正展开一场被广泛关注的竞赛，旨在率先实现通用人工智能（AGI）。在这样的背景下，已有行业资深人士的选择，显得尤为引人深思——他们选择了呼吁“踩刹车”，反对过快的发展节奏。
这份呼吁的核心在于，希望AI技术的发展能放缓脚步，给予社会更多的时间来理解、适应和管理由此带来的变革。这种审慎的态度，与当下科技界普遍存在的“速度至上”的文化形成了鲜明对比。
更为关键的是，这份联合声明的签名者身份构成非常多元化，远不止于硅谷的技术精英。美国前国家安全顾问Susan Rice和前参谋长联席会议主席Mike Mullen的签名，凸显了对国家安全这一核心议题的深度关切。甚至英国王妃梅根·马克尔（Meghan Markle）的出现，与特朗普的支持者史蒂夫·班农（Steve Bannon）和格林·贝克（Gretchen Beck）等人物并列，这种跨越政治光谱的罕见联合，进一步表明了超级智能风险的广泛性和紧迫性。
加州大学伯克利分校（UC Berkeley）的人工智能安全领域知名研究员Stuart Russell，长期以来一直致力于对超级智能的潜在风险发出预警，并在此次组织联合声明的过程中发挥了重要作用。他过往的研究表明，AI发展的关键挑战不在于人类能否创造出超级智能系统，而在于一旦这些系统出现，人类是否、以及如何能够有效地控制它们。
该声明明确呼吁全面暂停超级智能的研发，“直到公众形成强烈的支持，并且在科学界达成广泛共识，认为其可以在安全且可控的环境下进行”。这一标准设立得非常高，其结果很可能意味着当前AI技术的研发进程将被实质性地冻结。
这份联合声明的独特之处在于，其签署者中的许多人并非来自AI研究和开发领域之外的“批评者”，而是恰恰相反，他们正是当前AI技术的主要构建者——包括那些引领了今日AI能力的研究人员和企业家。当班吉欧和辛顿这样的顶级科学家——他们的贡献促成了现代大型语言模型的出现——公开表示“踩刹车”时，整个AI行业很可能会对此予以高度重视。
然而，未来的发展走向，很大程度上将取决于各国政府的应对策略。欧盟已然在积极推进人工智能法规的制定，而美国也在探索人工智能安全的框架。这份请愿书无疑为各国立法者提供了强有力的理由，去审慎地考虑并可能对最前沿的人工智能研究实施更为严格的监管措施。
