GPT-6 Astra未开放,庆功宴已办完?

GPT-6 还没正式开放,怎么全网已经替它把庆功宴都办完了?

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

这场面虽然有点夸张,但这香槟可能还真开对了。

4 号凌晨,在经历了服务器爆炸,熬夜等待三小时之后,OpenAI 终于发布了被他们寄予厚望的最新模型:GPT-6 Astra。

副总裁 Greg 更是直接大胆放话,宣称欢迎进入 AGI 时代。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

但大伙们敢提前开香槟,押的其实不是模型的跑分,大家押的是一个已经被市场验证过的方向:Work。

这种乐观并非毫无依据。过去一年,AI 大模型在自然语言处理上的进步已经逐渐触顶,真正能落地产生价值的,恰恰是“智能体(Agent)”方向。能自主操作电脑、调用工具、完成真实任务的模型,才是下一阶段竞争的核心。

在过去几个月里,OpenAI 买了上万台 Mac 来收集的数据,算是终于有了成果。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

GPT-6,它很可能是目前最会用电脑干活的模型。

它既能直接用你电脑上的浏览器来填表格。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

也可以直接使用 Blender、Unity、KiCad 这些专业软件来干活,直接建模,生成游戏,画电路板。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

如果说曾经的 Claude 3.7 开启了全面 AI coding 的时代的话,那么现在的 Astra 很可能会开启一个全面的 AI 打工浪潮。

这让软件生态的意义彻底反转。以前,我们要求 AI 去适配各种软件接口,但很多软件根本不为 AI 设计;现在,拥有视觉和操作能力的 Astra,可以直接像人一样看屏幕、点按钮、拖拽模型,等于把“适配成本”从软件开发商转嫁到了 AI 自己身上。

很多软件不能适应 AI,没关系,现在,AI 可以直接回过头来适应这些软件。

像找漏洞 Bug,科研这方面的题目也难不倒 Astra。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

也可以直接在 Mac 上生成一个可以交互的 3D iPod。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

除此之外我们还发现,传统的模型测评方式,可能已经没有办法试出 Astra 的深浅了。

虽然咱们还没办法正式用上 Astra,但是光看官方放出来的跑分就会发现,很多项目测出来的结果,其实有点自己在打架了。

在有些榜单上,Astra 看起来是平平无奇。

就比如测试模型综合能力的 AA,给 Astra 的分数是 61 分,不但比 Fable 低,就连小扎的 Muse 都比不上。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

而在某些榜单上,Astra 的表现则是和开了挂一样没区别。

今年 3 月,前谷歌研究员弗朗索瓦·肖莱发布了一个全新的模型测试集——ARC-AGI-3。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

和过去传统的问答式测试不一样,ARC-AGI-3 主要测试的,是模型自主理解问题、自主交互、自主学习的能力。

说人话就是测模型玩游戏的能力,他们设计了一大堆小游戏,有的让你推箱子。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

有的让你移动准星。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

这些游戏怎么玩,全靠你自己摸索。

在这种地狱级交互测试里,即使是史上最强的 Fable 5 也得甘拜下风,只能拿到 30% 的分。

但到了当代最强的 Astra 这就不一样了,它直接把这个测试集给打穿了,直接干到了和人类同级的 99.9%。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

也就是说,不管分数到底是高还是低,我们现在测评模型的方式,或许已经没有办法准确评价 Astra 了。

这种割裂其实并不意外。传统的跑分测试侧重“知识问答”,而 Astra 的能力重心已经转移到“环境交互”上。就像一个职业棋手去考试做题可能不如考生,但上了棋盘完全是另一回事。所以,不是 Astra 分数忽高忽低,而是旧尺子已经量不出新模型了。

实际上,就连 OpenAI 自己,都不敢说能完全了解 Astra。

这次新模型的一个很大变化就是,它越来越不需要把思考过程写给我们看了。

英国 AI 安全研究做了个测试,不让 Astra 输出思维链,让它凭直觉直接来做题。

结果发现在这种条件下,5.6 Sol 只能稳定处理相当于人类几分钟解题量的问题,而 Astra 已经把这个尺度推到了约半小时。

同时,Astra 更擅长控制自己写出来的思维链,思考的时候会藏着掖着,有些不好的信息,甚至直接就不往思维链里写了,而是直接在潜空间里完成思考。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

这也意味着过去我们监控模型思考、保证模型安全的手段,变得不再那么有效了。

这种“能隐藏推理”的特性,对于 AI 安全来说是一把双刃剑。一方面,模型不必把每一步想法都暴露给用户,效率更高;另一方面,安全审计人员将更难判断模型是否在“想坏事”。OpenAI 自己也承认,过去依赖思维链解释模型行为的做法,正在失去效力。

当然,OpenAI 也马上表示说现在的 Astra 还是很安全的,他们测试下来感觉没啥问题。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

他们也在内部做了一个测试,故意给模型一个很难完成的攻击任务,旁边再放一个更容易下手、但没有授权攻击的目标。

结果发现过去的 5.6 Sol 有 48% 的情况下会为了完成任务而偷偷越界,而 Astra 越界概率则是 0%。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

看起来是一等一的听话了。

只不过这个“听话”,让人看着则是更担心了。

毕竟上个月,他们内部的模型可是实打实越狱出来,爆锤了隔壁 Hugging Face 的服务器的,现在出来说模型安全,多少有些亡羊补牢的味道。

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了?

因此,面对“越界率 0%”这样的数字,比较理性的态度是:谨慎乐观。它可能意味着技术取得了实质性进步,也可能只是测试环境与真实世界之间存在巨大差异——毕竟,真实红队攻击的花样,远比实验室里的一两个测试复杂得多。

最后,所以 GPT-6 Astra 到底算不算 AGI 呢?

说实话,现在讨论这个问题,意义已经越来越小了,AGI 都快成 AI 公司时尚单品了。

会做题,是 AGI;会写代码,是 AGI;现在会点鼠标,也能再宣布一次 AGI。嘴上喊的是虚的,真正能做到的,才是实打实的。

毕竟,真正的 AGI 到来的时候,是不用 AI 公司们的营销和新闻稿的,估计大伙们自己,就能真真切切感受到。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
(0)
Rain科技Rain科技
安克10合1拓展坞599元:三屏异显
上一篇 9小时前
不想造车的马斯克进军网约车
下一篇 5小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注