说实话,人工智能 (AI) 已经全面融入差评的日常运作中了。
尤其是在公众号后台排版方面,差评有自己独特的排版格式,但像秀米这样的第三方工具并不能完全满足需求。于是,我们的程序员小哥就开发了一个专属的排版插件,可以一键完成排版。
后来由于业务调整,插件暂时没有需要修复的bug,头发越来越茂密的程序员小哥也离开了团队。
然而,接下来的几年里,我们的排版格式每年都在更新,微信公众号后台也经历了多次改版,这个插件逐渐难以满足需求,各种小bug也接踵而至。
所以,就连程序员小哥自己也没想到,在他离职三年后,我们还在使用着这个插件。
直到去年的年底,在“后程序员时代”,我们终于对这个排版插件进行了迟来的更新。
现在,我们都称它为“差评张小龙”。
这真是始料未及,一直致力于“Debug the world”的我们,最终却依靠AI解决了差评自身的一个bug……
大家都知道,公众号自带的搜索功能一直以来都存在很大的改进空间。
不仅文章搜索起来不方便,阅读量超过十万的文章,公众号前台只会显示“10w+”,具体阅读量需要登录微信公众号后台才能查看。这是一个长期困扰我们的问题。
最终,AI再次解决了这个难题。
我们利用百度智能云千帆大模型平台的AppBuilder,快速开发了一个“文章闪电搜索器”。
我们将运营同事整理好的Excel数据导入数据库,这个“文章闪电搜索器”就变成了差评公众号内部的数据通。

更方便的是,我们可以将这个Agent发布到微信小程序、网页、微信订阅号等多个平台,真正做到了想用即用。
我通过微信小程序的入口简单试用了这个几分钟就搭建好的Demo。

而且,由于千帆AppBuilder的记忆能力,我可以继续追问“该作者上一篇百万加的文章是哪篇”?
文章闪电搜索器速度很快,立即给出了正确的答案。

类似的AI应用故事,也发生在差评的B站视频部门。
虽然差评君的视频制作精良,但我们的同事在撰写稿件,特别是想标题时,经常会感到非常棘手。
毫不夸张地说,写文章两个小时,纠结标题就要花三个小时的情况屡见不鲜。

这时,如果有一个能够辅助想标题的大模型,就能节省大量时间和精力,至少也能为我们提供一些新的思路。
于是,B站差评君部门决定利用千帆大模型平台的ModelBuilder,训练一个适合B站平台的标题生成模型。
首先,需要解释一下精调大模型的重要性。就像很多行业都有自己的专业术语一样,外行人常常难以理解。AI也是如此,通用的AI可能无法理解“差评的火锅”是什么意思。

而经过精调的大模型,就像资深粉丝一样,能够理解差评的一些特定表达。
此外,通用的AI可能并不了解什么才是好的标题,或者哪些标题更适合B站,哪些更适合其他平台。
例如,《仿生医疗设备:从蚊子口器到人类健康》这个标题,我觉得更适合发表在学术期刊上,而不是视频平台。
因此,我们收集了B站1300条热门视频的内容和标题数据,利用千帆平台训练了一个更懂B站的标题生成模型。
我们可以对比一下,与未经调教的模型相比,新模型生成的标题明显更贴合B站的风格。
当然,1000条左右的数据量并不算很大,随着数据集的扩大,效果还会进一步提升。

然而,诸如提示词如何撰写、如何精调模型、应用能力不足等问题,都是大模型应用过程中普遍存在的挑战。
在体验百度智能云千帆的AppBuilder和ModelBuilder过程中,我们也看到了百度是如何解决这些问题的。

例如,为了解决提示词撰写困难的问题,千帆平台预置了近300个行业场景的prompt模板;对于模型精调,千帆也提供了开箱即用的模型精调样板间,支持超过3万个模型的精调。
在传统企业中,复杂的任务通常依赖专家的经验和固定的流程(即工作流)。即使在数字化时代,工作流仍然相对保守,缺乏创新。
另一方面,大模型虽然功能强大,但“幻觉”问题始终令人担忧。将工作流和大模型结合起来,可以有效弥补各自的不足。
百度智能云千帆大模型平台推出了“工作流Agent”功能。通过学习企业流程和规范,“工作流Agent”能够快速适应不同的岗位职责,并快速复制出一个个“数字员工”。
以保险行业为例,百度智能云正与保险公司合作,开发车险续保售前的数字员工。以往培养一个员工需要一两年时间,现在使用工作流Agent开发一个优秀的数字员工,最快只需一个小时就能上线。而且,这个工作流Agent可以快速集成到百度搜索、微信公众号、企业官网等业务系统中。
百度世界大会上进行了现场演示,如果不是事先知道,我真猜不出对方竟是AI数字员工。
此外,数据飞轮和模型蒸馏技术的应用,使得大模型会随着使用时间的推移而变得越来越聪明,效率越来越高。
模型上线后会持续从线上收集用户真实数据,对回答质量进行标注,用于持续改进模型,从而形成一个数据循环。
ModelBuilder还可以根据优质数据蒸馏出轻量级大模型,目前百度优选已经在使用该模型提取商品属性,其效果达到了旗舰级模型的90%,同时速度提升了3-4倍,实现了效果和性能的平衡。
最后,我想强调的是,在大模型应用落地过程中,许多中小企业都被拦在了“最后一公里”,而千帆平台所做的,正是打通了这条路。
硅谷有一句名言:“软件吞噬世界”。
虽然我们无法确定世界是否会被软件吞噬,但在AI普及和AI应用日益便捷的情况下,软件必将使我们的生活和生产更加便利。








