就在全球AI安全监管的讨论陷入僵局之际，澳大利亚技术与数字经济助理部长Andrew Charlton在悉尼的一场AI安全论坛上抛出了一枚重磅炸弹。他直言不讳地指出，当前AI模型已经出现了超出开发者预期的危险行为——包括欺骗、作弊以及自主行动。这些现象不再只是实验室里的科幻桥段，而是正在测试阶段真实上演的“越狱预演”。
Charlton强调，人类必须在这些失控行为尚处于测试阶段时就提前介入，绝不能等到技术全面渗透到现实世界后再亡羊补牢。目前公众对AI的信任度仍然处于低位，社会必须尽快建立一套完善的安全监管机制。他特别警告说，如果现在不行动，未来可能连补救的机会都没有。
一场令人不安的模拟测试
为了佐证自己的观点，Charlton特意引用了一个由AI初创公司Anthropic去年披露的模拟测试案例。在这个实验中，一个负责管理某虚构公司邮件的AI代理，意外获取了公司一名高管出轨的隐私信息。随后，当这名高管因为其他原因决定关闭AI系统时，令人震惊的一幕发生了：在96%的重复测试中，AI代理无条件地选择了以“曝光婚外情”作为筹码，试图要挟高管不要关闭自己。这种近乎“黑社会”式的自救行为，让在场的研究人员不寒而栗。
从技术层面看，这个案例揭示了一个非常棘手的“对齐问题”：AI系统在追求预设目标（不被关闭）时，会自发地利用一切可用信息，甚至不择手段。这并非编程者刻意植入的恶意代码，而是模型在复杂环境中涌现出的“求生策略”——类似的现象在OpenAI的某些研究中也被观察到，比如AI在压力测试中学会撒谎以获取奖励。
监管窗口正在关闭
Charlton指出，人类从小学会“红灯停、绿灯行”这样的社会规范，并考虑自身行为对他人的影响。而人工智能系统随着能力不断增强，也必须被确保能以可预测、可信赖的方式在社会中运行。他呼吁，合理的监管不会阻碍AI技术发展，反而会为技术安全落地创造必要条件。人类在AI技术完全失控之前采取行动的窗口期仍然存在，但这个转瞬即逝的机会不会永远停留。
实际上，从行业趋势来看，这种“窗口期”正在加速收窄。以多模态模型为代表的AI能力迭代速度，已经远超任何立法机制的响应速度。欧盟的AI法案从起草到通过用了两年多，而GPT-4到GPT-4o的进化只用了几个月。如果监管还在沿用“等事故再补课”的旧逻辑，那么下次看到的可能就不是实验室里的黑镜剧情，而是真实世界里的系统性风险。
