大模型想赚钱,先过这七道难关

近年来,大模型的商业闭环问题备受关注,业界普遍认为,大模型想要实现长期可持续发展,必须找到有效的方式来实现商业变现。

与过去中国IT行业依靠烧钱快速积累用户,并通过估值和广告获利的模式不同,大模型时代投资市场愈加理性,迫使行业加速寻求商业闭环。

华为HDC开发者大会上,华为主机上云军团CEO、混合云总裁尚海峰强调,“加速商业闭环是使用大模型最关键的一点”,市场最终会回归理性,只有真正为用户创造价值,实现商业闭环,才能拥有更长远的未来。

经过数月的探索,业界已形成了一些关于如何推动客户从试点走向规模化买单,加速商业闭环的方法论。

01. 价值共识:1000个客户,1000个“哈姆雷特”

与过去购买软件不同,大模型的应用形式更加多样,客户对大模型的认知也并不统一。中关村科金CTO李智伟博士指出,“1000个人可能就有1000个哈姆雷特”,这意味着需要有一套方法论,引导客户理解大模型的价值。

快递100总经理陈登坤表示,“大模型基于Transformer,我们也成为了一个Transformer,是把大模型变成一个看得见、摸得着的应用转化者。”

为了降低沟通成本,中关村科金等企业纷纷提供试用版,帮助客户快速了解大模型的能力和边界,加速从前期沟通到PoC,再到落地部署的推进。

此外,计算ROI(投资回报率)也是加速落地的普遍做法。中工互联董事长智振介绍,这不仅包括短期ROI,比如提高效率、节省人力、降低错误率等,也包括长期ROI。

在与客户沟通时,引导客户找到价值链上最痛、最有价值的点至关重要。例如在设备运维场景中,大模型可以有效提升知识管理效率,将原本耗时两小时、漏检率千分之一的人工排查,缩短至十分钟,并降低90%的漏检率。

02. 实施周期:3到6个月,是普遍接受的范围

尽管过去一年,客户与业界探索了大量场景,但真正实现商业闭环的场景并不多。

面对大模型带来的变革,大多数企业并不愿意一开始就投入大量成本和时间。智振表示,企业普遍能接受的项目预算在50万到200万之间,实施周期一般要限定在3到6个月。

大模型想赚钱,先过这七道难关

一些小型项目,上线时间甚至更短。例如,中工互联为一些电商客户提供售前、售后的大模型技术服务,其决策周期和试用周期都很短,收费也按月结算。

为了加速实施,企业普遍采用“短平快”的方式,将大需求切分成小的点,逐点试错、逐点突破,避免像传统软件项目那样,需要一年半载才能看到效果

目前,与大语言模型相关的知识类场景,成为企业优先选择的闭环方向。

泰康科技有限公司人工智能部AI架构师朱兴杰介绍,今年上半年,他们在知识加工再造、赋能代理人等方面取得了初步成果,后续将针对理赔等场景进一步提升风险识别能力。

中国工商银行软件开发中心大数据与人工智能实验室副主任夏知渊在华为HDC大会上,公布了工行“1+X”的工程化解决方案。其中,“1”指代的是智能体,“X”种解决方案大多与知识类场景相关,如多模态的知识检索、交互式的智能搜索等,这些能力为工行在远程银行场景提供了全流程赋能,将通话时间压降了10%,员工坐席效率提高了18%。

03. 大模型中台:避免“散装作战”

为了加速大模型在各行各业的落地应用,主流大模型厂商都在强调模型的“最优性价比”,轻量化模型、MoE、价格战轮番上阵。再加上开源社区的繁荣,企业对于模型的选择更加多元化。

泰康科技等企业会根据不同的场景,选择不同的模型,以找到最佳路径。

不可否认的是,开源模型由于成本等优势,更受欢迎。例如,北京可为高科信息技术有限责任公司正在通过开源模型,为政府客户提供私有化部署。

在金融领域,中关村科金CTO李智伟观察到,在闭源、源代码开源以及“源代码+训练数据”开源三种模式中,银行客户更倾向于选择第三种。

当前,大小模型混合使用已成为常态。例如,中关村科金的混合模型质检平台,利用小模型负责基础数据质检,大模型负责复杂内容检测,实现了检测效率提升1千倍,大幅降低了人工检测成本。

为了避免资源浪费,越来越多的企业开始搭建统一的大模型中台,纳管N个大小模型,以及安全、知识注入、工具、服务分发等

大模型也正在成为企业的底座。中工互联董事长智振介绍,他们目前向客户提出了“三个平台”的思路,即基于大模型底座,做数据平台、业务平台和知识平台。以往工业互联网平台主要解决数据不贯通和业务不流畅的痛点,而大模型有可能解决知识沉淀的问题。

智振观察到,目前包含了“大模型底座+平台”的项目,普遍在百万元量级,企业通常不会一次性完成所有建设,而是循序渐进。

04. 数据飞轮:既是难点,也是制胜点

数据是影响大模型商业闭环形成的关键因素之一。

大模型想赚钱,先过这七道难关

“尤其过程数据的缺失,是落地过程中遇到的最大障碍。”北京可为联合创始人曾明指出,除了金融、电商等数字化进程成熟的行业,大量行业企业存在数据问题。

例如法律领域,虽然有海量的案件公开数据,但大多只是简单的描述。“如果说一个案件中,正常的思考过程是a到b、b到c……x到y、y到z,那大模型只学a到z,是无法学会的。”

“现在最缺的就是b到y的过程数据。”

企业正在通过数据清洗、数据标注等工作,补足历史存量数据,并加速收集增量数据,双管齐下填补数据空白。

大模型厂商也正在从工具链方面着手,帮助企业加速数据治理,形成自己的数据飞轮。越往后走,越不能只盯着模型本身的训练,工具链的建设将在加速大模型商业闭环中,占据愈发重要的位置。

中关村科金CTO李智伟表示,不仅仅是数据方面,模型的部署、安装、运维和日常的优化调试等,都可以通过工具链来进行提升

05. 算力选择:混合云更经济?

算力是加速大模型落地和商业闭环的另一个关键问题。基于对数据安全、开发成本和训推效率的综合要求,混合云目前正成为越来越多政企的优先选择。

大模型想赚钱,先过这七道难关

《深度用云展望2025》白皮书中也曾指出,2025年,75%的企业将会使用AI大模型,而基于混合云的AI大模型占比将达到38%

例如,广州市政务服务与数据管理局构建了公有云和政务云混合的人工智能公共算力中心,其中100P部署在政务云,提供训练好或还需精调的模型,给人社部门、城市管理部门等应用,另外200P公有云,则作为训练应用。

在金融、汽车等领域,不少企业也采用了公有云和私有云协同的架构。泰康科技有限公司人工智能部AI架构师朱兴杰表示,一方面是出于成本的考虑,“私有算力评估都是几千万的投入,才能有不错的效果”,另一方面,国产算力仍需完善。

对于核心的商业知识,肯定要求私有云,因此我们目前会有少量本地私有化的集群,同时也会调公有云服务,去做一个混合的部署。”朱兴杰表示,大家的普遍做法是,利用公有云的高弹性和高扩展性,满足做AI场景创新时的算力灵活租用和场景多方尝试,等到验证一个场景的价值后,再通过私有云的部署,快速实现本地的安全化的数据不出域。“下一步的话,一旦我们看到效果,我们可能就会建立一个很大的私有算力”。

除了混合云,企业也可以选择“公有云的私有化”模式,即在公有云上开一个私有化的环境。目前,在零售、酒店和文旅等数据管控没那么严格的行业中,不少企业都选用了这种模式。

中关村科金CTO李智伟建议,央国企牵头建立专有云,可以让大模型的算力效率和成本更经济。“比如某个区域形成一个能源行业的链主企业,提供公有云,服务区域内所有能源企业。

06. 定制化:“老大难”有新解法

在To B市场,定制化一直是无法规避的问题,也是影响商业闭环形成快慢的重要因素之一。

过去三十年,信息化和智能化的发展历程,也是定制化的一个简化过程。以人工智能为例,上一个AI时代,AI技术泛化能力差,甚至同一场景开发的产品,无法在同一银行的不同部门直接复用,定制化成为必然。大模型时代,人们发现它的泛化性,在一定程度上解决了定制化问题。

然而,随着大模型的实际落地开始,业界发现定制化需求依然大量存在,“甚至在某种意义上增加了。”中关村科金CTO李智伟告诉数智前线,这主要体现在多样性的客户需求和尚未稳定或收敛的技术阶段。在他看来,与其回避定制化,还不如拥抱这个诉求。

“我们在做很多工具化和配置化的工作,让大模型所依赖的这些偏定制化产品的基建,能够做得更高效、实施成本更低。”百度智能云知识管理产品部总经理宋勋超说。

中关村科金CTO李智伟表示,一方面,需要产品经理更了解客户场景,产品标准能力要尽可能多地覆盖业务需求,即产品的满足度要提升。另一方面,产品交付过程中也要提供服务/咨询能力,与客户一起,赋能客户成长。而这一点在行业应用领域非常重要。

中工互联董事长智振举例称,给企业做定制化,就好比定制西服,量体裁衣的效果必然更好,但成本和耗费时间也会更多。要想降低定制化的成本、时间,就要提高标准化的比例,也即标准化的产品,加上更加标准化的服务流程。

“今年以来,我们已经将过去一年探索出的能做的方向,全都产品化了。”智振说。而这不仅有利于企业去落地大模型应用的过程中,更快得到能力的交付,也能加快服务商的大模型落地能力推广复制的速度。智振透露,他们目前除了自己面向客户提供产品+服务的整体方案,也将标准产品卖给了伙伴,再由伙伴向客户出方案。

07. 运维:让投资不打水漂

好多人往往忽略了大模型的运维运营,但我认为它和大模型的建设同样重要,值得我们长期的投入,否则你根本用不起来。”华为主机上云军团CEO、混合云总裁尚海峰表示,这其中,涵盖了体系建设、AI培训、技术运营、场景运营、生态运营、市场运营、运营门户等多个环节。

大模型想赚钱,先过这七道难关

例如,鄂尔多斯市政府与华为联合打造的以行业AI大模型为核心的工业互联网平台,采用‘前店后厂’模式。据鄂尔多斯市创新投资集团有限公司副总经理廉咏梅介绍,在这种模式下,“后厂”不断聚集生态伙伴来拓展新场景,开发新的大模型应用产品的同时,“前店”也能通过线上应用商城,实现商业的变现,实现成果转换和商业闭环。

对于企业而言,需要尽快通过服务商们提供的AI赋能、AI培训等模式,打造落地大模型的内生能力。

对于服务商而言,也更加要求长期服务和陪伴的能力。“to b企业软件领域有一个逻辑是,每年如果不更新,就会损失15%的能力。”智振告诉数智前线。

大模型时代,技术的更迭和升级速度更快,企业和服务商都需要更经常地进行经验总结,更新方法论。

    免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
    (0)
    AI快讯网编辑-青青AI快讯网编辑-青青
    上一篇 2024年 7月 5日 下午12:29
    下一篇 2024年 7月 5日 下午12:59

    相关推荐

    发表回复

    您的邮箱地址不会被公开。 必填项已用 * 标注

    欢迎来到AI快讯网,开启AI资讯新时代!