AI怪盗图11月7日消息,AI的性能上限依然要看参数规模,国产大模型目前只追到了3万亿级别,而公认最强的Mythos/Fable被认为是5万亿以上参数量,月之暗面下一代的K4明年能做到5.4万亿规模。
月之暗面今年的大模型路线图中,旗舰级产品中已经出了Kimi K3及K3.1 Pro,都是2.8万亿参数量的,后续还有Kimi K3.5,参数量略微提升到3万亿,K3.5的后训练数据量会提升到10万亿规模,预计2027年问世,有可能是明年春节前后。
再往后的旗舰产品就是Kimi K4了,参数量进一步扩大,5.4万亿的规模差不多是之前K3的2倍大了,这个爆料也跟之前野村证券公布的5-6万亿参数量相符。

到了这个级别,国产AI的性能上限应该有机会真正碰一碰Mythos/Fable级别了,发布时间是2027年Q2季度,晚一点就是Q3季度,时间点上晚了大约一年,毕竟国产AI训练面临的算力瓶颈及数据量都有更高的挑战。
在K4及K3.5之前,月之暗面还会继续扩展轻量级大模型,有Kimi K3 Flash在年内上市,应该会接替当前的Kimi K2.8,就是不知道性能、价格是否可以跟DeepSeek V4.1 Flash相媲美,毕竟年底的时候V4.2甚至V5.0 Flash都有可能问世了。
从爆料来看,月之暗面目前的算力是够用的,能支撑当前研发,只是上限有些不足,可以通过压缩技术来应对,当前的重心放在了自蒸馏及后训练上,把模型能力提升上去。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。