科研过程能否完全自动化？一个由日本Sakana AI公司和加拿大、英国科学家组成的国际团队正在探索这一“无人区”。
据《自然》网站近日报道，该团队研发出了一款基于大语言模型的“人工智能（AI）科学家”。这款AI能够从阅读文献到提出新假设，再到尝试各种解决方案并撰写论文，完成整个研究周期。
Sakana公司在其官网上表示，这款科研“新星”是首个用于自动化科研和开放式发现的综合AI系统，标志着科学发现新时代的开始。尽管它展现出非凡的潜力，但也存在一定的局限性，应警惕其被滥用的风险。
AI科学家：科研流程自动化
近年来，AI技术不断进步，帮助科学家们在集思广益或编写代码等方面获得一定帮助。然而，这些AI模型通常需要大量人工监督，或者只能执行特定任务。
为了实现科研过程的自动化，包括加拿大不列颠哥伦比亚大学机器学习专家在内的团队成功创建了首位“AI科学家”。
该“AI科学家”基于一个起始模板，首先进行“头脑风暴”，提出多个不同研究方向，并通过广泛搜索确保某些想法的新颖性和趣味性。在实验迭代阶段，“AI科学家”会根据第一阶段提出的想法进行实验，并生成图表可视化结果，以及对每个图表的注释。在论文写作阶段，它会模仿标准机器学习会议的风格撰写论文，并自主查找相关论文进行引用。此外，研究团队还开发了一个自动化的“AI审稿人”，能够评估生成的论文准确性，堪与人类审稿人相媲美。评估结果和建议可用于改进该项目，实现持续的反馈循环，使“AI科学家”能够迭代改进其研究成果。
在最初的演示中，该“AI科学家”针对扩散模型、Transformer模型以及AI“领悟”（Grokking）等机器学习子领域进行了深入研究，总共生成了10篇论文，每篇论文的成本约为15美元。
美国华盛顿大学计算社会科学家杰文・韦斯特表示，该“AI科学家”能够行云流水般地完成整个科研流程，令人印象深刻，有望加速科学发现的步伐。
AI科学家：能力与局限
尽管这位“AI科学家”拥有巨大的潜力，但它也远非完美。
Sakana AI公司指出，“AI科学家”目前还不具备视觉功能，无法修复论文中出现的图表问题。例如，它生成的图表有时无法读取，表格有时会超出页面范围，页面布局也不美观。
此外，该“AI科学家”有时会出现想法正确但执行错误的情况，也会因比较不当而生成误导性的结果。在撰写论文和评估结论时，它也可能犯严重错误，例如难以比较两个数字的大小。为了部分解决这个问题，研究团队确保所有实验结果都可以重复，并存储了所有执行文件。
研究人员预计，未来多模态模型的加入将帮助“AI科学家”克服一些局限性。
另一方面，“AI科学家”目前只能开展机器学习领域的研究，且缺乏科研过程中的关键部分：动手进行实验的能力。
艾伦人工智能研究所计算机科学家汤姆・霍普表示，目前该大语言模型“仍无法提出并制定新颖有用的科学方向”。劳伦斯伯克利国家实验室材料科学家赫布兰德・希德则认为，即使该系统在短期内无法完成更具创造性的工作，仍可将科研过程中一些重复性内容自动化。
Sakana AI也强调，此类系统能否提出真正的变革性想法仍未有定论。未来的“AI科学家”能否发明出像人工神经网络或信息论一样的概念也还是个未知数。
AI科学家：能力与风险
研究人员表示，为了扩大“AI科学家”的能力，令其能够研究更抽象的领域，例如纯数学领域，可能需要引入语言模型之外的其他技术。
例如，解决数学问题需要逻辑推理，而目前大多数AI模型并不擅长逻辑推理。为此，谷歌深度思维公司开发出AlphaGeometr，将语言模型与符号引擎相结合，构建出一种神经―符号混合系统。在今年的奥林匹克数学竞赛中，升级后的AlphaGeometry2在19秒内就解答出一道题，胜过人类选手。
研究人员坚信，目前的迭代只是个开始。“AI科学家”就像AI科研自动化领域的GPT-1，随着不断迭代，它将像现在的GPT-4一样，引发新的科研革命。
然而，与许多新技术一样，“AI科学家”也打开了“潘多拉魔盒”，甚至可能被滥用。例如，“AI科学家”可以自动创建论文并提交，这将显著增加审稿人的工作量，可能阻碍科学质量控制，并给学术进步带来压力。此外，“AI科学家”还可能被用来制造危险的病毒，给人类社会带来潜在的风险。
