星火X2.5-4B/1.7B开源,端侧百万上下文,全国产算力

AI怪盗图9月1日消息,今日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型,这也是端侧模型中首个原生支持最长100万Token上下文的产品。这意味着即使是资源受限的边缘设备,也能处理超长文档和复杂对话,为行业落地提供了全新的可能性。

两款模型采用混合注意力架构,围绕智能体、代码、数学和指令遵循等核心能力进行优化,综合实测相关能力领先业界同尺寸一流开源模型。从技术路径来看,混合注意力机制在长序列处理中兼顾了效率和准确性,这或许是其在同类模型中脱颖而出的关键。

端侧首个百万上下文!科大讯飞星火X2.5-4B、1.7B开源:全国产算力平台训练

上下文方面,星火X2.5-4B和1.7B使用覆盖长篇文档、技术资料等场景的千亿Token级高质量数据训练,原生支持100万Token上下文窗口,可以在一次任务中接收和理解更大规模的信息。这种设计直接回应了现实应用中“信息碎片化”的痛点——以往需要多次切分输入的长文本,现在可以一次性送入模型,减少上下文断裂带来的理解偏差。

百万级上下文真正解决的问题是让模型基于完整信息,在连续交互中持续理解和处理复杂问题。例如在售后场景中,模型不再需要反复回忆前文,而是可以像人类一样“翻阅”整本手册再作答,这在客服、法律检索等领域具有显著实用价值。

以产品售后为例,用户可将完整售后手册导入星火X2.5-4B,模型先梳理不同场景下的售后规则并标注对应章节,当被问及“购买10天后设备故障且使用过第三方耗材是否符合换货要求”时,能够关联退换货、故障处理和例外条件等跨章节规定给出综合判断。

面对偏远地区、设备存有家庭地图等新增条件,模型还能保持前文情境,结合物流、数据清除、费用承担和处理时限等规则提供后续建议。

端侧首个百万上下文!科大讯飞星火X2.5-4B、1.7B开源:全国产算力平台训练

长上下文解决的是信息能不能看全,智能体和工具调用能力解决的则是看完之后能不能动手,星火X2.5端侧模型可面向个人办公、代码开发、智能硬件和机器人等场景,提供本地化智能能力。从产业角度看,端侧部署的最大优势在于数据隐私和低延迟,这对于金融、医疗等敏感行业尤为重要。

比如在代码开发场景中,星火X2.5-4B在算法实现、代码补全与生成等任务中可对标参数规模大2至3倍的云端模型,代码编写、脚本生成和调试辅助工作可以不出本地直接完成。这种“瘦身不减能力”的表现,反映出其在模型蒸馏和知识迁移上的深厚积累。

智能硬件场景中,在Domux智能家居测试集上,星火X2.5-1.7B控制指令端到端执行正确率达到90.3%,平均响应时间仅0.85秒。实时性与准确率的平衡,说明模型在资源有限的情况下依旧能保持稳定性,为智能家居、可穿戴设备等提供了可靠的底层支持。

机器人场景方面,两款模型可部署在机器人本体或边缘设备中,支持操作控制、目标追踪、导航决策等任务,减少对云端连接和固定预设程序的依赖。这意味着机器人可以更自主地应对动态环境,尤其在网络不稳定的工业现场优势明显。

星火X2.5-4B和1.7B均基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习持续提升推理、代码、智能体和指令遵循等任务表现。全国产化训练平台的意义不仅在于供应链安全,更在于能够针对国内场景的数据特性进行深度优化。

部署层面支持NVIDIA、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。这种广泛的兼容性降低了开发者的迁移成本,有助于快速形成生态。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API已上线讯飞星辰MaaS平台,限时免费。开源策略将加速社区反馈和迭代,进一步推动端侧模型在更多垂直场景中的落地。

此外在9月7日,科大讯飞还将正式发布全新一代旗舰通用大模型星火X2.5,进一步升级代码和智能体等核心能力。端侧首个百万上下文!科大讯飞星火X2.5-4B、1.7B开源:全国产算力平台训练

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
(0)
Rain科技Rain科技
长鑫全球首家量产LPDDR6,HBM3E试产
上一篇 1天前
智界V9单月零售交付8312台,成高端新能源MPV爆款
下一篇 1天前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注