如果说2023年是AI大模型元年,那么即将过去的2024年就是AI大模型应用落地的元年。这一年,各行各业都在积极地探索AI大模型在自身业务中的应用场景:软件开发、会议总结、智能营销、智慧运维、个人助手……不计其数的场景正在涌现。
不过在繁荣景象下,大模型在ToB领域的应用仍然面临着诸多问题,其中最核心的是:如何实现商业化。
在喻友平看来,大模型在ToB领域实现商业化的核心是:回归商业本质,帮助企业客户解决实际问题。
本期对话嘉宾喻友平,他是北京中关村科金技术有限公司(简称“中关村科金”)总裁,毕业于华中科技大学并获得博士学位,北京大学光华管理学院EMBA。曾任百度智能云副总裁,具有17年领先科技公司的产品研发和管理经验,在业界有着广泛的影响力。
喻友平表示,大模型已从“暴风骤雨”转到“润物细无声”阶段,当前大模型发展不再需要狂飙,而是要精细化落地。
12月12日,在2024大模型技术与应用创新论坛上,中关村科金正式发布了得助大模型平台2.0,并提出了“平台+应用+服务”的“三级引擎战略”,喻友平在对话中表示,“平台+应用+服务是企业大模型落地的最佳路径,平台是大模型落地的技术引擎,应用是产品引擎,服务是价值引擎。”
在平台方面,中关村科金通过自研的得助大模型平台2.0,提供一站式快速构建和部署大模型应用的能力,帮助企业客户在落地大模型的过程中,实现降本增效。
“得助大模型平台2.0 相比其他大模型平台的核心优势之一是结合企业级最佳实践,将行业和领域主流场景的业务流程、话术、规则、内容等核心要素和各类常用工具进行统一封装,沉淀出上百套全场景套件,让企业在构建和部署同类场景大模型应用时,真正做到开箱即用。”喻友平分享到。
在应用层面,中关村科金基于10年来积累的领域和行业产品基础,加之场景应用创新能力,打造了覆盖客户业务核心流程的产品体系,帮助企业实现对外增长和对内提效。喻友平介绍说,中关村科金已与各行业伙伴一起构建了200+大模型应用,覆盖智能营销、智能客服、智能运营和知识管理四大核心场景。
在服务层面,中关村科金打造了端到端的全链条交付与服务体系,覆盖从客户咨询、平台搭建、应用集成、效果运营的各个环节。中关村科金已经累计服务超过1600个行业头部用户,拥有丰富的交付和服务经验。喻友平表示,在大模型落地过程中,中关村科金始终与客户紧密在一起,做好最后一公里的价值交付。
谈及大模型在哪些场景能够率先实现商业化,喻友平表示,大模型在企业侧应用最主要的两个场景就是:提升客户体验和员工体验。
在提升客户体验方面,在喻友平看来,主要集中在提升企业与企业客户的连接效率和效果。以营销场景为例,传统模式下,营销外呼需要依赖大量的人工坐席,耗费巨大的人力资源,而且早期的智能机器人大多基于小模型,它们在处理简单询问时表现尚可,但在进行持续性对话和复杂问题解答时能力有限,导致与客户的沟通效果瓶颈明显。
某金融机构和中关村科金合作开发了大模型外呼,相较于传统的机器人外呼,与客户的沟通轮次提升了83%,平均通话时长增加了50%,显著提升了客户体验。客户更愿意与能够提供流畅对话和有效解决问题的大模型进行互动。
该金融机构单日最大外呼量1200万通,其中80%以上是由大模型完成的,剩余部分由人工坐席承担。这不仅极大提升了工作效率,也优化了资源配置。
在提升员工体验方面,通过大模型技术,一方面可以提升员工工作效率,另一方面,通过大模型技术可以为员工的个人成长和培训提供更多支持。比如,在陪练场景下,某证券公司通过大模型陪练,革新了知识培训模式,让客户经理精准获取知识点,知识点掌握效率提升50%以上,同时更好地了解产品并获取营销话术,辅助合规展业成功率提升15%。
展望未来,喻友平认为,大模型在数据和知识密集型的行业和领域会“走的比较靠前”。中关村科金将继续推进平台+应用+服务的三级引擎战略,聚焦在增强客户体验和员工体验的核心场景,加速推动大模型应用的落地,帮助企业实现对外增长和对内提效。
以下为对谈实录,经整理(有删节):
刘湘明:2024年接近尾声,你认为今年大模型赛道的进步怎么样?有哪些你认为发展比较好的,以及哪些低于预期?
喻友平:我觉得跟预期差不多。首先,大家对于大模型的认知,无论是它的局限性,还是体现的价值,形成了行业的共识。在ToC端,一些问答类、聊天类的大模型,增长属于预期之内的好。
ToB端,通过大模型技术和应用,帮助企业跟客户之间的连接实现了智能化,并且在一些场景下也帮助企业内部员工提升了工作效率,这方面也是符合预期的。
刘湘明:今年行业大模型应用特别火,但还是没有一个杀手级的应用出现,你认为原因有哪些?
喻友平:大模型应用市场还处于早期阶段,规模不够大,客户认知度还没有形成普遍共识,产品能力也还有优化空间。因此,还没有出现杀手级的应用。但无论大模型的概念是什么样的,最终的目的是要给人带来更大价值。
刘湘明:你如何看待大模型的商业化问题?
喻友平:ToC端的商业化其实并不需要担心,有流量就行。但在ToB端,大模型本质是:帮助企业解决问题。从目前的应用来看,大模型在企业侧更多是帮助企业解决与客户连接的问题,其中包括了主动连接,诸如营销,也包括了被动连接,诸如客服。
在解决与客户连接方面,大模型确实为企业提供了显而易见的直接价值。在为员工实现提质增效方面,比如客服领域,为客服人员提供了助手工具,很多企业愿意为此买单。还有沟通总结功能,以及一些陪练(训练客服人员,提升其业务水平)场景中,也有一些不错的应用效果。
刘湘明:公司提出“平台+应用+服务”这套理念是大模型落地的最佳路径,请你解读一下这套理念。在这套路径中,三个部分都充当了什么样的角色?
喻友平:中关村科金基于10年来积累的ToB服务经验,加上大模型智能升级过程中的沉淀,我们发布了中关村科金大模型时代企业智能化升级的“三级引擎战略”。
首先是平台,智能化平台+数字化平台才能让企业的数字化真正进入一个智能化阶段,所以平台本身是大模型落地的技术引擎。
其次是应用,在企业经营全流程的各个环节中,都可以通过大模型进行智能化的升级,包括营销、运营、服务、知识管理等,甚至像生产、供应链、财务等场景都有可能利用智能化和数字化的平台相结合,打造智能化的应用。所以应用是大模型落地的产品引擎。
第三是服务,企业“最后一公里”的交付还有一个关键点就是服务。服务是一个价值引擎,最终要让客户、企业把大模型用起来,包括咨询服务、平台搭建、应用调试和效果运营都是缺一不可的。
因此,平台+应用+服务是企业大模型真正实现落地的最佳路径。
刘湘明:中关村科金是如何将通用的能力与客户的需求进行精准的匹配的?
喻友平:通过逐步与客户的深入沟通,找出大模型当前的能力和客户当下需求最匹配的场景和价值点。比如在企业的外呼场景下,需要根据每个用户和不同的场景使用特定的话术,这时候需要针对不同类型的人群进行打标签,绘制用户画像,洞察客户需求,再将这些数据和洞察与自身的产品特点优势结合,推荐给用户最匹配的产品。通过和客户一起不断的联合创新,优化不同场景下的服务能力,进而提升外呼营销的转化率。例如,某头部家装行业客户使用中关村科金的大模型外呼产品,经过7~8轮的迭代,使用了20余种方法,将大模型外呼的营销转化率提升了130% ,虽然相较于真人还有一定差距,但是显然比传统AI外呼效果要好很多。
刘湘明:如何实现成功经验沉淀和行业复制?
喻友平:我们把基于各类场景应用的企业级最佳实践沉淀成为一个个行业套件,并把这些套件集成在得助大模型平台。每个套件都是极具针对性的场景解决方案,通过综合运用数据流、Agent流、工作流,用大模型、小模型、MoE模型组合,还有SFT模型,每个场景都经过实践检验,最后沉淀在平台上。
得助大模型平台2.0 已经沉淀了上百个通用套件和行业套件。这样一个灵活的大模型平台,企业只需要5分钟即可构建自己专属的场景应用。通过得助大模型平台,我们已与各行业伙伴一起构建了200+大模型应用,覆盖智能营销、智能客服、智能运营和知识管理四大核心场景。
刘湘明:针对这些场景,中关村科金将原本丰富的AI产品通过大模型升级,如何确定优先级?
喻友平:大模型在企业侧的应用,我觉得还是面向企业的CX和EX两大场景的应用优先级最高。CX (Customer Experience)即客户体验,帮助企业客户,更好的与其客户进行服务和营销,提升企业营销和服务能力;EX (Employee Experience)即员工体验:帮助企业客户,将企业内部的知识和数据充分地利用起来,打造企业或行业的知识助手,提升员工的工作体验和效能。
刘湘明:目前中关村科金在大模型应用落地方面,整体大模型产品的复用性如何?
喻友平:落地比较多、效果比较好的有智能外呼、反诈接警、智能陪练、财富助手、政务服务、医保办理等。这些场景复用性较高是由于客户有决心拥抱大模型,且通过尝试后发现大模型应用确实能为其带来实际价值。客户拥抱大模型的决心很强,能够投入足够的资源和数据,愿意和我们一起打磨应用效果。此外,客户有比较高质量的数据,对基座模型进行了专有知识的训练,让大模型学会了专有领域的知识,建立了RAG知识库,让大模型能回答事实类的知识且更精准。
刘湘明:在解决大模型的幻觉等“小瑕疵”问题上,中关村科金有何经验?
喻友平:解决幻觉问题是一个特别复杂的工程化工作。中关村科金结合行业和领域的高标准数据,采用检索增强生成(RAG)和工具调用等知识注入技术以及基于模型微调的领域训练,通过代理架构(Agent)实现更好的模型推理能力和更加精准的问题回答。在智能营销、智能客服、智能运营和知识管理等场景中,中关村科金已与多个行业的头部客户进行合作,多轮对话上的效果普遍超出预期。
当新的技术浪潮来了,大家都得适应它,然后不断调整,在应用层面来看,哪个服务商反应快,并且离用户更近,谁解决问题的速度快,谁才能在这个过程中生存下来。
刘湘明:现在整个大模型产业链上的公司很多,中关村科金在这个过程中的核心竞争力是什么?
喻友平:市场真正需要的大模型应用,要既能够解决客户的核心问题,又能提供端到端解决方案,同时还要有全链条的服务,这也正是中关村科金的核心竞争力。
中关村科金基于10年来积累的ToB服务经验,加上大模型智能升级过程中的沉淀,发布了中关村科金大模型时代企业智能化升级的“三级引擎战略”,其中平台是大模型落地的技术引擎,应用是产品引擎,服务是价值引擎。我们认为平台+应用+服务是企业大模型真正实现落地的最佳路径。这既是我们的心得,也希望跟各行业进行分享探索,让中国的大模型落地更快更好。
刘湘明:就你观察,再结合中关村科金自身业务,你觉得哪个行业,大模型应用目前走的比较靠前?未来在哪个领域最有可能率先出现杀手级的应用场景?
喻友平:首先,需要选择有一定的数据和知识支撑的场景,因为这些是大模型的“土壤”,比如:金融、法律、医疗、教育等,大模型有能力消化这些行业或领域的数据,尤其是非结构化数据,能够提供更加自动化智能化的服务体验,也能够更好地帮助员工提升效率。
其次,是一些创意性的行业,创意的边界正在被大模型无限拓展。比如:设计、文学等领域,大模型生成的结果,没有绝对正确的答案,但是带来了更多新的可能性。当然这些领域最终还是需要人来进行价值判断,我认为这些领域也最有可能出现杀手级应用场景。
刘湘明:展望2025年,对于大模型应用你有何预期?
喻友平:大模型赛道呈现出一个确定因素和两个不确定因素。
确定的是,大模型将在各行各业和各种场景里更加深入应用。大模型在产业中的渗透虽然还处于早期,但是,产业智能化的进程是不可阻挡的,这是一条螺旋上升的道路,未来的发展前景非常广阔。目前行业已经涌现出了不少值得深入且具有一定复用性的大模型应用场景,展现出了大模型的价值潜力。
不确定的因素是,当前的大模型技术还会不会产生比较大的变化;整体经济发展情况的不确定性对大模型赛道的影响。这两点会从宏观层面影响大模型应用的发展。
对于中关村科金来说,制定围绕“平台+应用+服务”的“三级引擎战略”,推动大模型应用落地,坚持聚焦用大模型技术和应用解决客户实际业务问题,帮助客户实现对外增长和对内提效。
(本文首发于,作者 | 张申宇,编辑 | 刘湘明)