马斯克揭秘:xAI动用10万块英伟达H100,全力训练Grok-3大模型

埃隆·马斯克的人工智能初创公司xAI即将在8月推出全新大语言模型Grok-2,引发了科技界的广泛关注。据悉,Grok-2将为用户带来更出色的AI体验。尽管Grok-2尚未正式亮相,但马斯克已经开始为下一代的Grok-3预热。

马斯克揭秘:xAI动用10万块英伟达H100,全力训练Grok-3大模型

在谈及AI聊天机器人的训练过程时,马斯克强调了数据集的必要性,并指出清理大型语言模型(LLM)中的数据是一项繁重任务。他表示,数据集的质量和规模直接影响着AI模型的性能,而清理大型语言模型中的数据需要付出巨大的努力和资源。同时,他也对OpenAI的模型训练方式提出了一些看法,认为OpenAI的训练方式存在着一些弊端,导致模型存在偏差和安全隐患。

令人瞩目的是,马斯克透露了xAI的Grok-3将使用高达10万块英伟达H100芯片进行训练。这款由英伟达开发的AI芯片专为处理大语言模型数据而设计,拥有强大的计算能力和低功耗特性,可以有效提升训练效率。马斯克兴奋地表示,预计年底发布的Grok-3将会“非常特别”。

据AI快讯网了解,每块英伟达H100芯片的价格大约在3-4万美元之间,因此,用于训练Grok-3的10万块芯片价值可能高达30-40亿美元。这笔庞大的投资凸显了马斯克对其AI事业的坚定决心,同时也引发了外界对于xAI是否使用了特斯拉购买的英伟达芯片进行训练的猜测。考虑到特斯拉今年计划从英伟达采购的芯片金额也在这个范围内,这一猜测并非空穴来风。

从数据规模和硬件投入来看,xAI的Grok-3无疑将成为当下最强大的AI模型之一。然而,训练成本的巨大投入也引发了业界对AI模型训练成本和可持续性的思考。未来,如何降低训练成本并提升训练效率将成为AI领域的关键挑战之一。

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
(0)
上一篇 2024年 7月 2日 下午3:00
下一篇 2024年 7月 2日 下午4:04

相关推荐

欢迎来到AI快讯网,开启AI资讯新时代!