美国政府日前宣布与全球领先的生成式人工智能初创公司 OpenAI 和 Anthropic 达成合作协议，旨在帮助测试和评估这些公司即将推出的 AI 安全技术。
根据周四发布的协议，美国人工智能安全研究所将率先获得 OpenAI 和 Anthropic 的主要新 AI 模型，以评估其能力范围和风险，并就缓解潜在关键问题的解决方案进行合作。
据悉，美国人工智能安全研究所是美国商务部国家标准与技术研究院 (NIST) 的重要组成部分。这些合作协议的达成正值人们越来越关注通过监管手段来减轻人工智能带来的潜在灾难性风险，加州人工智能安全法案 SB 1047 等提案也引发了广泛争议。
美国人工智能安全研究所所长伊丽莎白·凯利在一份声明中表示：“安全是推动技术创新突破的关键所在。”“这些协议只是一个开始，但它们是一个重要的里程碑，因为我们致力于负责任地管理人工智能的未来。”
该组织在一份声明中表示，还将与英国人工智能安全研究所密切合作，提供有关潜在的安全改进反馈。此前，Anthropic（被誉为 “OpenAI 最强竞争对手”）在发布其 Sonnet 3.5 AI 大模型之前已与英国人工智能安全研究所合作进行了测试。美国和英国的相关安全组织此前曾表示，他们将共同努力实施标准化的人工智能安全测试。
“我们强烈支持美国人工智能安全研究所的使命，并期待共同努力为人工智能大模型提供最佳的安全实践和标准，”OpenAI 首席战略官杰森·克温在一份声明中表示。“我们相信该研究所在负责任地发展人工智能技术方面，以及在确定美国的领导地位上发挥着至关重要的作用，并希望我们的合作能够提供一个基本框架，让世界其他国家可以以此作为重要基础。”
Anthropic 也表示，建立有效测试人工智能大模型的能力至关重要。“安全、值得信赖的人工智能对于这项测试技术的积极深远影响至关重要，”Anthropic 联合创始人兼政策主管杰克·克拉克表示。“这加强了我们识别和减轻技术风险的能力，推进了负责任的人工智能大模型发展。我们很自豪能为这项重要工作做出贡献，为安全和值得信赖的人工智能体系设定新的基准。”
资料显示，美国人工智能安全研究所成立于 2023 年，是拜登-哈里斯政府关于人工智能的政府行政命令的一部分，其任务是为负责任的人工智能创新制定测试、评估和技术指导方针。
据媒体报道，生成式人工智能领域的绝对领导者 OpenAI 目前正在洽谈新一轮融资，预计将筹集数十亿美元，这将使该公司估值超过 1000 亿美元。据知情人士透露，风险投资公司 Thrive Capital 将主导本轮融资，并将投资约 10 亿美元；科技巨头微软作为 OpenAI 的最大股东，预计也将继续投入资金。
据悉，新一轮融资将是自 2023 年 1 月微软投资约 100 亿美元以来，外部资金对 OpenAI 的最大一次注资。作为对比，去年年底 OpenAI 员工出售现有股份时，OpenAI 的估值为 860 亿美元，足以见得 OpenAI 的估值持续攀升。前不久，有分析师指出，OpenAI 正面临约 50 亿美元的资金缺口，很可能需要在未来 12 个月内启动新一轮融资。
