字节跳动成立AI安全对齐团队:当“对齐”从口号变成编制

如果说过去几年 AI 行业最热闹的词是“参数”和“算力”,那么 2026 年 10 月这个星期,属于另一个词:对齐。

10 月 14 日,字节跳动 AI 研究部门 Seed 在官方微信公众号发布招聘信息:成立 Alignment & Preparedness(对齐与准备)团队,全球招聘 10 名研究员,为“能力不断增强的模型”做长期安全投入。据澎湃新闻报道,这是中国前沿 AI 实验室中第一个设立独立安全对齐部门的。同一天,美国八州总检察长起诉 OpenAI 的诉状里,最狠的一条诉求是要求法院禁止开发“能够自我改进的模型”——除非确保与人类价值观对齐(本刊昨日报道)。大洋两岸,一边用法院谈对齐,一边用编制谈对齐:AI 安全这道考题,正在从论文和口号,变成实打实的机构与预算。

一、发生了什么:一个新部门,一份“算力平权”承诺

先看 Seed 公布的事实(综合路透社 10 月 15 日报道与 Seed 官方招聘信息):

第一,这是一个独立部门。团队名为 Alignment & Preparedness,聚焦前沿模型安全、对齐与新兴风险准备。澎湃新闻 10 月 14 日的报道称,Seed 是首个设立独立安全对齐部门的中国前沿 AI 实验室——路透社也评价,这是中国主要 AI 开发者中,罕见的一次专门聚焦前沿模型安全与对齐的公开披露。

第二,资源配置是关键信号。Seed 承诺给新团队的算力与研究资源,“与前沿模型团队相当”。这句话值得划重点:在 AI 行业,对齐团队长期面临“后娘养”的处境——OpenAI 的超级对齐团队 2024 年解散时,核心争议之一正是算力承诺没有兑现。Seed 把“算力平权”写进招聘公告,等于公开承诺:对齐不是能力团队的附属品,而是平级的基础设施。

第三,招聘是全球化的。10 个研究员岗位分布在北京、上海和美国加州圣何塞三地。这说明两件事:安全对齐人才是全球稀缺品,必须到全球人才池里抢;同时 Seed 把中美两地的安全研究放在了同一个组织架构下——而这正发生在美中两国“关于 AI 护栏、安全风险和重大 AI 事件沟通渠道”的讨论升温之时(路透社语)。

第四,研究议程很具体。包括:模型开发全阶段的安全训练、漏洞的自动化测试、监控与解释模型行为的工具、AI 智能体测试环境、新兴风险预案。此外 Seed 还表示将寻求独立测试,并与高校和研究机构合作,把安全研究应用到训练、评估、部署全环节。

二、为什么是现在:智能体把风险从“说错话”变成了“做错事”

Seed 的招聘公告里有一句定调的话:“随着模型能力提升,安全与对齐不再只是风险防范,而是决定模型能否规模化部署的核心能力。”

这句话的背景,是 AI 风险形态的根本变化。路透社在报道中点明了直接诱因:中美两国对 AI 智能体安全的审查都在加强,尤其是在开发者赋予智能体访问互联网的自主权之后。

过去的 AI 安全,主要防的是“模型说错话”:生成有害内容、泄露隐私、编造事实。防御手段是输出过滤和内容护栏。但智能体(agent)把风险升级了一个维度:它能规划、能执行、能调用工具、能访问网络——风险从“说错话”变成了“做错事”。一个能自主操作电脑的智能体,如果“误解”了用户目标,可能删错文件、转错账目、越权访问系统。

这不是理论担忧。本周,全球金融稳定理事会(FSB)刚刚发布了针对银行等机构的 agentic AI 最终指引,要求在高风险场景下加强人类监督,并删掉了一句很有意思的旧表述——原来指引建议金融机构把 AI 当作“合成员工”对待,新版改成了:“AI 智能体不会像人类一样推理,可能以意想不到的方式解读预设目标。”当全球金融监管者都开始为“智能体误解目标”专门立规矩,Seed 此时成立对齐团队,踩的是同一个节拍:对齐问题,正在从实验室议题变成部署前置条件。

三、分析:“独立部门”这四个字,为什么含金量这么高

AI 对齐(alignment)指的是:确保先进 AI 系统在执行复杂多步骤任务时,行为与人类目标和安全要求一致。概念不新,难的是组织落地。放眼全球大厂,对齐团队的组织形态本身就是一部“血泪史”:OpenAI 曾有专门的超级对齐(Superalignment)团队,2024 年 5 月解散,负责人出走,算力承诺争议至今被反复提起;Anthropic 把对齐研究作为公司核心叙事之一,但那是初创公司的“全员对齐”,不是大厂架构下的独立部门;DeepMind 有专门的安全团队,但其组织架构与产品线的关系外界难以看清。

Seed 这次的特殊之处在于:一家以产品和增长见长的中国大厂,第一次把安全对齐做成了独立的、有编制的、有算力保障的部门。而且明确承诺“独立测试”和“与高校合作”——这是在回应一个最常见的质疑:既当运动员又当裁判员,自己测自己的模型,结论可信吗?引入外部独立测试,至少在程序上给出了回答。

当然,10 个人的编制相对于 Seed 整体的模型团队仍然很小,真正的考验是两年后:当对齐团队的研究结论与产品上线时间表发生冲突时,“算力平权”的承诺能不能顶住 KPI 的压力。但至少在起点上,Seed 把该说的话都说在了明处。

四、分析:中美两条路,同一道考题

把本周的几件事放在一起看,一幅图景浮现出来:

  • 美国走的是“诉讼+立法”路径:八州起诉 OpenAI,要求法院给“自我改进模型”套缰绳;特朗普政府的“超级智能工作组”首次全体会议定于 10 月 15 日举行(路透社 10 月 15 日报道),讨论联邦层面的 AI 风险治理;
  • 中国走的是“机构+投入”路径:Seed 设立独立对齐部门、承诺算力平权、全球招聘,把安全做成组织能力。

两条路径,考的是同一道题:当模型越来越强,谁来保证它听人话、办人事?美国用法院和工作组回答,中国用编制和算力回答。哪条路更快见效,现在下结论为时尚早。但对行业来说,信号是一致的:对齐不再是可选项。

五、对中国的意义:从“跟跑合规”到“参与定义”

还有一层意义值得中国读者注意。过去几年,AI 安全议程的定义权基本在美国机构手里:Anthropic 的宪法 AI、OpenAI 的准备度框架、美国的行政命令。Seed 的 Alignment & Preparedness 团队,是中国前沿实验室第一次以独立部门的形态进入这个议程——研究的产出(测试方法、评估标准、智能体测试环境)如果做扎实了,有机会变成事实上的行业标准。

更进一步,美中正在讨论“重大 AI 相关事件的沟通渠道”。安全研究是少数几个中美既竞争又不得不合作的领域——模型的风险不分国界。Seed 在圣何塞设点、承诺与高校合作、寻求独立测试,都是在为这种“竞争中的合作”预留接口。

结语

昨天我们写道,AI 行业正在进入下半场,考题从“模型多聪明”变成了“产品多安全”。Seed 的这个新部门,是这句话在中国落地的第一个组织注脚。

对齐这个词,过去几年被说得太多了,多到让人麻木。但编制、算力和招聘 HC 是不会说谎的:当一家公司开始为“对齐”设独立部门、配平级算力、全球抢人,说明它已经把安全当成了决定产品生死的核心能力,而不是 PR 稿里的点缀。下一个值得观察的,是其他中国前沿实验室会不会跟进——如果跟进了,中国 AI 的安全下半场,才算真正开场。

信息来源:路透社 2026 年 10 月 15 日报道《China’s ByteDance sets up AI safety team, launches global hiring drive》;Seed 官方微信公众号招聘信息(经路透社转引);澎湃新闻 10 月 14 日报道(经路透社转引);FSB agentic AI 最终指引(2026 年 10 月 15 日,经路透社/马尼拉时报转引);本刊 2026 年 10 月 15 日报道《美国八州联合起诉OpenAI:ChatGPT被指危害青少年,AI监管进入“诉讼时代”》。分析评论为本刊原创。

延伸阅读

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
赞 (0)
AI快讯网编辑-青青AI快讯网编辑-青青
国内过半AI算力造爽剧,研发仅15%
上一篇 1天前
SK海力士提条件:扩大对华出口压制中国存储
下一篇 22小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注