AI推理

在AI大模型推理能力的探索上，我们常常陷入一个“黑箱”的困境：模型给出的答案，我们知道对错，却难知其所以然，更别提精准定位出推理过程中的“病灶”。然而，Meta AI Lab最近带…

AI的“减肥餐”：清华大学DeepPrune技术，让模型推理效率翻倍！ 在这个AI浪潮席卷全球的时代，大家都在争抢着“喂养”越来越庞大的AI模型，仿佛模型的体积越大，能力就越强。然…

近年来，人工智能的飞速发展，尤其是大型语言模型（LLM）在生成内容、代码辅助、甚至复杂推理方面的能力，让人们看到了AI的无限潜力。然而，正如任何一项颠覆性技术一样，LLM也并非完美…

AI 推理迎来范式革新：代码生成助推通用思考，复旦等团队开辟新赛道 在人工智能飞速发展的今天，如何让机器真正拥有“思考”的能力，从而涌现出更强的通用性，一直是行业孜孜不倦的追求。近…

华为将于8月12日发布AI推理领域突破性技术成果，该技术有望降低中国AI推理对HBM内存的依赖，提升国内大模型推理性能。HBM作为高端AI芯片的关键组件，其在产能和出口限制下，此项新进展对完善中国AI推理生态尤为重要。