人工智能(AI)技术蓬勃发展，其应用已不再局限于技术本身，而是成为一个融合工程能力、产品开发和技术实力的综合性挑战。企业只有全面应对这一挑战，才能在市场竞争中脱颖而出，实现商业价值最大化。
大型语言模型(大模型)的兴起掀起了新一轮技术浪潮。然而，随着技术日趋成熟，应用场景的拓展成为新的焦点。自今年一季度和二季度以来，市场对AI应用的需求持续增长，金融行业尤为突出，其AI大模型渗透率已超过50%，位居各行业前列。
然而，高渗透率并不等同于高效率。过去一年，金融机构主要致力于基于基座大模型进行专属模型训练。目前，他们的关注点已转向应用层面，例如智能客服、坐席辅助、证券质检和数字营销等具体场景。
AI技术应用专家孔淼先生与容联云团队共同见证了这一转变。他指出，各行各业对AI的需求正从模型层向应用层转变，这反映了企业对高效产品和更高投资回报率(ROI)的迫切需求。然而，将大模型嵌入业务系统并进行基于自身业务的适配开发，仍然是企业面临的巨大挑战。
市场上尚未形成标准方案，但一些企业已开始积极探索。例如，容联云于去年12月发布了基于自研赤兔大模型的全新产品品牌及生成式应用，旨在帮助企业进行营销、服务等流程的AI改造和重构。这一举措在国内属于较早的尝试，一年后，容联云交出了令人瞩目的成绩单。
金融行业数字化转型已进入关键时期。某互联网大厂AI应用负责人表示，金融行业已成为其今年及未来KPI的重中之重。金融行业拥有庞大的用户基数、初步完成的数字化底层框架建设以及高度线上化和数据化优势，为AI落地提供了肥沃的土壤。
然而，挑战依然存在。尽管金融行业在数字化营销平台和智能运营方面已进行初步部署，但真正成熟的应用场景仍然有限。金融企业需要借助AI实现更精细化的业务搭建和客群运营，覆盖营销、销售和服务的全流程。
容联云在这一领域取得了显著成果。例如，在证券质检方面，容联云质检代理(QM Agent)帮助某头部证券机构将准确率从90%提升至94%，召回率从67%提升至96%，并实现了“10000通会话、300小时时长、8大语义质检项、6.5小时质检完成”的高效目标，这仅依靠一个14B参数的小模型和少量通用GPU算力卡即可实现。
在寿险领域，容联云的坐席代理(Virtual Agent)产品也取得了显著效果。某寿险企业通过该产品每天节省50多人力，咨询问答首解率从60%提升至80%，转人工率从85%降低至55%。这些成绩同样基于少量显卡和14B小参数模型的部署。
在“2024数智金融应用论坛”上，容联云展示了容犀质检代理(QM Agent)、容犀坐席代理(Virtual Agent)、容犀坐席助理(Agent Copilot)、洞察代理(Insight Agent)等一系列面向具体业务环节的AI应用产品和案例。
孔淼先生表示，过去一年，容联云对大模型的落地场景认识越来越清晰，能够精准识别真正的痛点和商业价值增量点，并将这些场景转化为应用产品，结合多种AI训练/调优方式，最终取得显著成果。
他认为，相较于大模型的预训练，具体落地层面更需要强大的工程能力。容联云采取灵活的策略，结合大小模型，并采用Copilot或Agent等方式，满足不同企业需求。目前，容联云的相关AI产品已在金融行业数十个场景落地，服务了数十家银行、证券和保险公司，帮助他们构建新的智能化营销服务体系。
金融行业数字化转型的经验对其他行业具有重要借鉴意义。AI时代，金融行业的实践表明，真正的AI模型需要转化为企业的竞争力和生产力，这要求服务商具备深入的行业理解、数据积累、工程落地能力以及特定的推理增强或专属训练能力。
容联云的成功案例印证了这一点。他们基于金融数据训练赤兔大模型，聚焦细分场景进行规则增强和推理增强，并采用大小模型结合和模块解耦方式，满足金融企业对大模型的真实需求——“真实可用，小步迭代”。
这一综合性挑战不仅关乎技术本身，更涉及工程能力、产品开发和技术实力的全面融合。企业只有全面应对这一挑战，才能在AI浪潮中保持领先地位。
