专家认为，为了更好地预防人工智能智能体失控，我们需要从智能体的开发、生产到应用部署后的持续监管等全链条着手，规范智能体的行为。
智能体是人工智能领域中的一个重要概念，指的是能够自主感知环境、做出决策并执行行动的智能实体。它可以是一个程序、一个系统，甚至是一个机器人。简单来说，智能体就像一个能够根据自身目标独立做出判断并行动的“智慧大脑”。
智能体的核心是人工智能算法，包括机器学习、深度学习、强化学习和神经网络等技术。通过这些算法，智能体可以不断地从大量数据中学习并改进自身的性能，优化自己的决策和行为。更重要的是，智能体可以根据环境变化做出灵活的调整，适应不同的场景和任务。
智能体的三大特质
学界认为，智能体一般具有以下三大特质：
- 自主决策： 智能体可以根据自身目标独立采取行动，无需人工干预。
- 环境交互： 智能体可以与外部世界进行互动，自如地使用不同的软件工具。比如基于GPT-4的智能体Auto-GPT，可以自主地在网络上搜索相关信息，并根据用户的需求自动编写代码和管理业务。
- 持续运行： 智能体可以无限期地运行，无需人工干预。美国哈佛大学法学院教授乔纳森·齐特雷恩近期发表的《是时候控制AI智能体》一文指出，智能体允许人类操作员“设置后便不再操心”。
以GPT为代表的大语言模型（LLM）的出现，标志着智能体进入批量化生产时代。在过去，智能体的开发需要专业的计算机科学人员历经多轮研发测试。现在，依靠大语言模型，我们可以迅速将特定目标转化为程序代码，生成各式各样的智能体。
此外，兼具文字、图片、视频生成和理解能力的多模态大模型，也为智能体的发展创造了有利条件，使它们可以利用计算机视觉“看见”虚拟或现实的三维世界。这对于人工智能非玩家角色和机器人研发尤为重要。
智能体发展面临的挑战
由于目前并无有效的智能体退出机制，一些智能体被创造出后可能无法被关闭。因此，如何有效地管理和控制智能体，使其在安全可控的环境下发挥作用，成为人工智能领域亟待解决的问题。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，可联系本站进行审核删除。
