近期，《自然》杂志刊登了一篇对OpenAI首席科学家雅库布·帕乔茨基的深度访谈，引发了人工智能（AI）领域的热烈讨论。访谈内容涵盖了AI在科研创新中的角色、人工通用智能（AGI）的发展前景以及OpenAI即将推出的开源模型计划，为我们理解AI的未来发展方向提供了新的视角。
帕乔茨基在访谈中分享了他对未来五年内AI模型可能带来的变革性影响的见解。他指出，目前我们与AI模型的互动模式更像是需要持续引导的助手，但这种情况即将迎来重大转变。OpenAI的Deep Research工具已经展现出在无监督环境下自主工作的能力，并能产出有价值的成果，尽管目前对计算资源的需求较高。基于此，帕乔茨基大胆预测，随着计算能力的持续提升，AI将具备独立进行原创性研究的能力。他特别强调了自动化软件工程和硬件组件自主设计等领域，认为这些领域将率先受益于AI的赋能，而其他学科也将紧随其后。
在讨论OpenAI推理模型的开发时，帕乔茨基特别强调了强化学习的关键作用。他解释说，最初版本的ChatGPT首先通过无监督的预训练阶段构建世界模型，然后再通过强化学习和人工反馈进行优化，最终成为一个实用的助手。而最新的推理模型则更加侧重于强化学习阶段，使其能够自主探索和形成独特的“思维方式”。帕乔茨基透露，他正在积极研究如何将不同的学习方法整合起来，深入理解它们之间的相互作用机制，这对于构建更强大的通用AI模型至关重要。
关于AI模型是否具备真正的“推理”能力，帕乔茨基的观点颇具深度。他承认，AI模型的工作机制与人类大脑存在本质区别。预训练模型虽然能够学习到大量的世界知识，但并不真正理解其学习过程和时间顺序的概念。然而，他也指出，现有证据表明，模型已经能够发现新的见解，这在一定程度上可以被视为一种推理形式，尽管与人类的推理方式不尽相同。这表明，尽管AI的“推理”机制与人类不同，但其在认知能力上的进步不容忽视。
最受关注的消息之一是OpenAI即将发布开源模型的计划。帕乔茨基表示，这项计划让他感到非常兴奋，因为它将为研究人员提供前所未有的机会，可以下载并进一步训练模型。OpenAI此举无疑将极大地推动AI研究的进步，并促进AI技术在更广泛领域的应用。然而，他也坦承，随着模型的不断进化，OpenAI需要承担更多的责任，尤其要密切关注模型部署方式可能对人类社会产生的影响。出于安全考虑，发布具有开源权重的前沿模型面临着巨大的挑战。因此，OpenAI希望能够发布一个性能优于现有开源模型的版本，在安全性和可用性之间找到平衡点。这体现了OpenAI在推动AI技术发展的同时，对潜在风险的深刻认知和积极应对。
在谈到人工通用智能（AGI）时，帕乔茨基坦言，他对AGI的实现时间表和定义都经历了显著的变化。他回忆说，刚进入研究生院时，他认为实现AGI还需要数十年的时间，但AlphaGo在2016年战胜围棋世界冠军让他深受震撼。加入OpenAI后，他一度是公司内部持怀疑态度的人之一，但AI技术突破的步伐远远超出了他的预期。他认为，AI在图灵测试方面已经取得了显著的进展，并在数学和问题解决能力方面取得了长足的进步，预计最具挑战性的基准测试也将很快被攻克。帕乔茨基表示，他目前关注的下一个重要里程碑是AI能否在经济上产生实际的、可量化的影响，特别是能否创造原创性的科研成果。他乐观地预计，到本十年结束时，AI将在多个领域取得令人瞩目的进展，为人类社会带来深远的影响。
