近期，经济学人杂志发表文章，对名为Manus的智能体系统提出了质疑。Manus的开发者将其宣传为能够“将想法转化为行动”的通用智能体，但在实际用户体验中，却暴露出诸多问题。
文章指出，用户长时间体验后，发现Manus的回答常常令人费解，操作延迟现象明显，甚至会出现无休止的循环，严重影响了用户体验。这种状况可能源于开发者过于追求效率，采取了“先完成再完善”的策略，将尚未成熟的产品匆忙推向市场。这种策略虽然能在早期赢得市场先机，但同时也牺牲了用户体验和产品质量。
与以往的AI研发模式最大的不同在于，Manus智能体系统直接建立在现有模型之上，并且被赋予了与互联网互动并执行任务的能力，无需用户许可。 这种模式打破了传统AI实验室的实验性探索，将原本仅存在于理论中的智能体概念，直接应用于现实世界。 Manus引发广泛关注，并非因为其技术上的突破，更重要的是它代表了一种AI研发的新趋势：将AI系统更早、更直接地投入实际应用环境。这种做法无疑加速了AI技术的迭代速度，但也带来了潜在的风险。
相比之下，美国的大型AI实验室在AI智能体的发布上则显得更为谨慎。 这与大型科技公司普遍奉行的安全至上原则有关。他们通常会对创新成果进行反复调试，直到达到相对可靠的1.0版本才会正式发布。 例如，OpenAI在发布GPT-2时，等待了长达九个月的时间，而谷歌的LaMDA聊天机器人虽然早在2020年就已完成内部测试，但直到两年多以后才以Bard之名正式面世。 这种“慢工出细活”的方式，虽然发布周期较长，但能够最大限度地降低风险，保证用户体验。
大型公司对AI智能体采取谨慎态度的原因在于，赋予智能体自主解决问题的能力，可能会放大其潜在危害。 因此，尽管Anthropic和谷歌等公司已经展示了诸如Computer Use等功能，但并未进行广泛公开。这些系统在测试和开发者预览版中，都受到技术和政策的双重约束，并在必要时会将控制权交还给用户。 这种安全策略旨在确保AI系统的可控性和安全性，避免潜在的负面影响。
然而，Manus的出现打破了这种审慎的平衡。随着初创公司与人工智能巨头之间的技术差距不断缩小，行业巨头们也在面临着越来越大的竞争压力，以往从容打磨产品的时间窗口正在逐渐关闭。 这也意味着，他们原有的安全策略可能不再完全适用。 在快速迭代的市场环境下，如何平衡创新速度和安全风险，成为AI行业面临的新挑战。
尽管目前尚无证据表明Manus造成了实际危害，但安全保障已不能再仅仅依赖于大公司发布前的大规模测试。 监管机构和企业需要建立起一套更为完善的实时监控体系，对已投入使用的AI系统进行持续监控，对发现的潜在危害迅速响应，并在必要时完全停用行为异常的系统。Manus的出现无疑预示着，未来人工智能的研发，将更多地在实际应用环境中展开。 这要求整个行业在拥抱创新机遇的同时，也必须时刻保持警惕，并持续优化风险管理机制，以确保AI技术的健康发展。
