2025年，人工智能算力市场正经历一场深刻变革。不同于以往主要关注模型训练，行业焦点已转向模型推理，这为专注于推理芯片的初创公司提供了绝佳的机遇。巴克莱研报预测，AI推理计算需求将占据通用人工智能总计算需求的70%以上，甚至可能达到训练计算需求的4.5倍。这一趋势的根本原因在于，模型推理是AI技术商业化的关键环节，OpenAI的o1和o3模型以及Google的Gemini 2.0 Flash Thinking等都通过改进推理策略来提升模型效果，直接导致推理计算需求的激增。
面对这一巨变，以英伟达为首的行业巨头也面临着来自诸多新兴企业的挑战。其中，Groq、SambaNova和Positron AI等公司尤为引人注目。Groq，由前谷歌TPU核心团队创立，其主打的LPU推理引擎号称“世界最快”，并推出了高性能计算芯片“猛兽”（Beast），宣称其AI推理性能超越了部分英伟达主流GPU。然而，Groq的架构也存在争议，其小内存、大算力设计可能需要大量芯片并联才能有效部署大模型，增加了硬件成本和能耗。
与Groq不同，SambaNova采取了更全面的战略，提供从芯片到服务器系统，甚至包括大模型部署在内的完整技术堆栈。其RDU架构拥有比GPU高10倍以上的片上分布式SRAM和适用于大规模计算任务的HBM，性能方面据说拥有2-4倍优势，并已获得包括世界顶级超算实验室在内的大型客户。
Positron AI则以高性价比为竞争优势，其推理芯片号称性能与英伟达H100相当，但成本仅为其五分之一。 Positron AI 致力于降低AI推理的门槛，使其更普及。 CEO Thomas Sohmers 表示，提供更廉价的推理计算资源将推动AI技术的更广泛应用。
面对这些来势汹汹的竞争者，英伟达近期推出了专为大模型推理设计的B300系列芯片，其算力较B200提升50%，显存也从192GB提升到288GB，旨在提升大模型推理性能，降低成本。但英伟达仍需持续创新，以应对不断变化的市场需求和来自竞争对手的压力。AI芯片市场的未来，将取决于谁能更好地满足不断增长的推理计算需求，并提供更高效、更经济、更易于使用的解决方案。
