近日,埃隆·马斯克的人工智能公司xAI宣布推出名为“Colossus”的超级训练集群,引发业界广泛关注。据悉,该集群集成了高达10万个英伟达H100 GPU,展现出前所未有的计算能力。Colossus的规模已超越现有所有主流模型,甚至超过了OpenAI旗下使用8万个GPU的最强大模型。

xAI团队只用了122天就完成了Colossus的部署工作,效率惊人。考虑到xAI今年6月才选定孟菲斯为基地,这一进展速度更是令人瞩目。马斯克进一步表示,Colossus的规模将在未来数月内翻倍,达到20万个GPU,并将引入5万个更高端的H200 GPU。
Nvidia的H200 GPU以其141 GB的HBM3E内存和4.8 TB/s的带宽成为市场翘楚,尽管其性能已被公司今年3月推出的新款Blackwell芯片所超越。然而,H200在Colossus项目中仍扮演着举足轻重的角色。Nvidia对马斯克及xAI团队的成就表示赞赏,并强调Colossus将在性能和能源效率方面实现显著突破。

风险投资巨头ARK Invest的CEO Cathie Wood对xAI的进展给予高度评价,她认为这令人印象深刻,并期待未来xAI将有更多重大消息公布。
回顾过去,马斯克早在2023年4月就已开始大规模采购GPU,为其xAI项目的发展打下基础。如今,随着Colossus的上线,马斯克在人工智能领域的雄心壮志正逐步变为现实。
Colossus集群将主要用于训练马斯克的下一代人工智能模型Grok-3。马斯克此前已表示,他希望在年底前发布Grok-3,并期待其能成为全球最强大的人工智能模型。随着Grok-2测试版的推出,外界对Grok-3的期待愈发高涨。
在当前人工智能领域的激烈竞争中,马斯克凭借其强大的资源和愿景,正引领着行业迈向新的高峰。Colossus的出现标志着人工智能领域的算力竞争进入新阶段,也将加速推动人工智能技术的发展和应用。
#xAI #Colossus #马斯克 #人工智能 #GPU