关键字: [symposium, Bedrock, 深圳市Ai应用场景, 模型选择工具, 端到端生成Ai解决方案, 创新设计自动化, 知识库检索生成回复]

本文字数: 7000, 阅读完需: 35 分钟

导读

在本次亚马逊云科技智能制造研讨会上,演讲者分享了如何利用生成式人工智能(GenAI)在制造业实现创新应用。他们阐述了在制造业场景中,GenAI可以优化用户体验、提高员工效率和创造力、优化业务流程,并带来全新产品和体验。演讲涵盖了多个案例,包括利用GenAI进行翻译、分析客户反馈、生成营销内容和智能客服等,展示了GenAI在制造业的广泛应用前景。亚马逊云科技提供了端到端的工具和服务,如Bedrock大模型商店、SageMaker机器学习平台等,助力企业构建GenAI解决方案,克服工程化挑战。

演讲精华

以下是小编为您整理的本次演讲的精华，共6700字，阅读时间大约是34分钟。

在当今时代,生成式人工智能(GenAI)已经进入了一个大爆发的阶段。这一切要归功于硬件技术的不断演进,使得我们的计算能力得到了提升,同时也离不开新模型不断涌现,模型能力也获得了极大的提高。当然,这也离不开在座各位在技术上的不懈努力。但无论模型如何发展,最终我们如何将其应用到企业中,仍然需要构建一个端到端的生成式人工智能应用,这是关键所在。

根据我们的经验,构建端到端的生成式人工智能应用需要经历三个关键环节。首先,我们应该去定义我们应用的场景,同时需要做模型的选择。当选定模型后,我们需要对模型进行相应的适配,然后通过测试用例来评估效果。最后,我们将模型部署到实际的生产环境中,再通过API构建应用程序。在这个过程中,我们总结出三个关键环节:选择合适的业务场景、为模型选择合适的工具,以及构建最终的生成式人工智能解决方案并克服相关挑战。

首先,我们来看如何找到合适的生成式人工智能应用场景。当我们讨论一项技术的应用时,我们经常会问它的回报如何,它会带来哪些产品新形态,到底有哪些收益回报。所以根据我们的经验,我们提出了一个评估模型,从两个维度来进行评估。第一个维度是它对我们业务的提升,另一个维度是它的可行性或可获得性。当选择一个合适的场景时,我们最好选择右上角的维度,即既能带来很好的业务价值,同时也很容易获得。

在这一指导下,我们看到生成式人工智能主要专注于四个场景。第一是如何利用生成式人工智能去优化我们的用户体验。第二是我们用生成式人工智能开发各种工具,去帮助提升员工的效率和创造力。第三是在业务流程中引入生成式人工智能来优化整体业务运营,之前有很多嘉宾分享过这一点。第四是一个许多用户非常感兴趣的点,随着生成式人工智能的加入,我们甚至可以带来全新的产品和体验。

比如在下面的演示中,我们可以看到一个与你互动的IP摄像头功能。它可以对场景中的人物进行识别,理解视频内容,甚至可以帮你将一天监控到的内容进行总结。我们可以通过增值服务的方式,引导用户订阅,从而产生新的业务收益。

从延伸、供应、销售的角度来看,在制造业场景中,我们已经落地了许多案例。上面标出的这些案例中,我们有很多已经在用户的生产环境中实践,也有一些我们正在与客户一起创造原型,还有一些处于构想阶段。我们将影响分为强、中、弱三个等级。大家可以看到,我们目前更多的是直接面向客户和营销侧的场景,如知识管理、产品创意、营销内容生成、客户支持等,这些场景可以直观地衡量价值。但在工业领域,包括PLC控制逻辑编程辅助、数据分析等,我们现在也可以通过生成式人工智能的方式去自动化生成,我们有一些很好的指导。

接下来,我想分享一些我们看到的已经大量应用的案例。第一个是翻译。在制造业出海的场景中,有非常多的翻译需求。比如我们原有的本土内容需要推广到海外市场时,就需要将内容本地化,需要用到生成式人工智能进行大量翻译。包括在客服、员工赋能等场景中,翻译也是一个常见的应用场景。基于生成式人工智能的翻译能够更好地理解意图,翻译也更加准确和快速。它的可获得性非常容易,无需定制,通过API就能完成。

第二个场景是VOC(Voice of Customer),也叫客户之声。在制造业和电商场景中,我们越来越重视客户对产品的反馈,特别是在消费电子领域,产品迭代非常快速。终端用户在使用过程中对产品卖点和反馈非常重要,可以指导我们的产品开发和营销策略调整。生成式人工智能能够帮助我们更好地分析从各种渠道获得的用户反馈,快速生成报告,供研发和营销团队参考,改进产品功能和营销话术。

下一个场景是营销物料的优化和生成。我们看到非常多的客户在营销场景中大量使用生成式人工智能,快速生成营销物料,投放到电商平台、线下广告、面向终端消费者等场景。

另一个大家非常关注的是智能客服问答。在面向终端消费者的环节中,客户服务是产品销售中最重要的一环,特别是出海时面对来自世界各地的用户。我们希望生成式人工智能能够自然地自动处理大量用户请求,提升客服效率,降低对人工客服的依赖。我们也开发了相应的解决方案指导,结合实验数据和知识库应用,可以很好地提升效能。

下一个案例是我提到的,生成式人工智能可能会带来全新的产品形态,比如食品的VQA(视觉问答),也就是多模态理解。我们这个演示是一个婴儿看护的场景,使用了最新的Claude 3的高码引擎,无需任何微调就可以直接识别和理解这个场景,带来了很多新的体验。比如在消费电子行业,我们可以做婴儿看护识别、欢聚时刻总结、宠物活动总结等。在工业领域,我们也可以快速识别生产中的不安全因素,将产品快速推向生产过程。

在构建生成式人工智能应用的路径中,第二个环节就是为模型选择合适的工具。亚马逊云科技希望在这个环节中为用户提供最合适的工具。这里我再次提一下Bedrock服务,它是亚马逊去年重点发布并持续加码投入的一个重要的人工智能产品,定位于一个完全无服务器的大模型商店。我们将现有的领先开源和商业模型通过统一API提供给用户。

大家知道,在构建生成式人工智能应用时,没有一个单一模型可以满足所有需求,我们需要集合多个模型的能力。我举个简单的例子,比如在构建知识库时,我们需要对企业知识进行embedding向量化,这个过程中,我们可能面对来自不同国家的用户,针对不同语言,我们需要进行embedding以获得很好的区分度,才能提高检索的准确率。我们的Cohere embedding模型就支持100多种语言,可以很好地提供这个能力。再讲到Claude模型,它提供了最好的智能化能力。

Claude 3实际上是目前最前沿的模型,我们提供了三种不同的规格:大杯、中杯和小杯,针对这三种不同的模型,它们的智能化程度和响应程度是完全不同的。比如Claude 3 Haiku,智能化程度相对较低,但响应速度非常快,在智能客服场景中需要快速回复,或者多模态理解场景中对成本要求苛刻时,它就可以很好地满足需求。在Claude 3 Opus场景中,也就是之前最智能的模型,它对代码生成和自然语言理解的智能能力会更强。同时,上个月我们推出了新的Claude 3.5 Sonnet模型,在成本相同的情况下,比Claude 3 Opus更加智能,应该说是目前全球最智能的大语言模型,无论是语言理解的准确度,还是编程能力的提升,都有长足进步。

当这些先进的模型对每个企业都很容易获得时,真正带来差异化的是什么?真正带来差异化的就是企业自己的数据。就像之前分享的一样,企业真正拥有的就是自己的数据。所以每个企业只有很好地利用自己的数据,再结合我们的大模型,才能真正构建符合自身需求的、领先的创新应用。

在利用企业数据时,我们有三种方式。第一是提示工程,就是将企业知识通过prompt的方式给到大模型,大模型就可以更好地做出响应,这种方式的可行性是最容易的。第二是RAG(检索增强生成),我们对企业知识做embedding,当需要基于现有知识做检索时,可以做基于语义理解的检索,再生成结果。第三是在一些专业场景中,如果我们希望模型基于特定角色或格式回答,我们可以利用企业数据对模型进行微调。

在提到利用企业数据的同时,我不得不提及另一个工具SageMaker。SageMaker是一个帮助构建端到端机器学习任务的一站式平台,从数据准备到私有化模型构建、大规模模型训练调优,再到私有化部署,我们都可以提供一站式支持。在很多企业场景中,我们都会用到这样的场景:数据非常敏感,我们希望在内部环境下完全私有地创建应用,SageMaker就可以很好地提供这样的一站式功能。

当完成模型选择后,我们最后还要解决生成式人工智能的工程化挑战。从前端UI开发,到构建RAG的embedding检索增强,设计prompt提示词,处理企业数据等,再到最后的集成,构建一个生成式人工智能应用比传统应用复杂很多,需要工程技术人员、算法人员、Web开发人员等多学科人员协作,这就是所谓的”最后三公里”的挑战。

亚马逊云科技希望构建一个完整的体系来帮助用户应对这个挑战。首先是我们的解决方案架构师团队,会与用户沟通需求,提供相应的架构咨询。针对具体产品的使用,我们也会有产品专家提供支持。我们的创新中心可以投入专家资源,与用户一起拉通业务、IT和产品团队,共同讨论并找到合适的产品。

当找到场景后,我们可能需要投入算法资源。但在实施过程中,一些制造业企业可能缺乏专业的人工智能工程师,即使有数据科学家,也可能缺乏行业经验。这时我们的AI实验室的同事就可以与用户一起打造原型,进行算法攻关。完成算法验证后,如果需要实际开发落地,我们不仅可以利用用户自身的开发能力,也可以提供专业化的服务团队,与合作伙伴一起帮助客户完成最终落地。

在企业内部大规模推进生成式人工智能时,我们需要拉平水平线,无论是业务侧、技术侧还是产品侧人员,我们的认证培训团队都可以帮助进行大规模培训,提升整体能力。

总的来说,当构建生成式人工智能应用时,我们应该落实到三个环节:找到合适的业务场景(有基础数据做保障)、为模型选择合适的工具和方法(保证落地实施)、构建人才和利用合作伙伴能力(通过这三个环节去构建企业自身的应用)。

接下来,我们今天非常高兴邀请到来自海尔创新中心的谢梦瑶总、数里行间Slix的创始人郭震博士,以及华宝新能的刘志远总,就我之前提到的三个场景(创新设计、VOC和客户服务智能机器人提升效率)做更加具体的案例分享。

首先有请谢梦瑶总为大家分享海尔在生成式人工智能时代下的创新设计变革。

谢梦瑶:“大家下午好,我是来自海尔之家创新设计中心的谢梦瑶,很高兴今天能够跟大家分享我们的一些小小的案例。我今天分享的题目是在生成式人工智能时代下的创新设计是如何变革的,也会有几个小场景能够快速地把我们的企业实践展开给大家讲一下。

在开始分享之前,我想简单做两方面的介绍。第一个是关于海尔智家的介绍。海尔是1984年开始创牌,今年是我们创牌创业的第40个年头。在这40年里,我们一直坚持产品创新、技术创新、模式创新和品牌创新谢梦瑶继续分享道:“在不断创新之下,我们逐步走到了今天家电龙头品牌的地位。现在我们是全球家电品牌第一,连续15年获得全球大家电品牌销量第一。同时我们还是全球唯一的物联网生态品牌,已连续五年入选BrandZ全球价值品牌100强。

我们如何走到这一步,是坚定了三条路线:第一是智能家电的全球化引领;第二是智慧家庭的企业引领;未来我们还将要做到智慧生活引领,给全球用户提供美好的生活方式。面向未来,我们企业肯定要不断地做生态变革。我们怎么保持引领?因为始终我们是围绕用户做三级品牌、做全球化、做数字化。

三级品牌讲的是我们从高端品牌到场景品牌再到生态品牌。全球化是我们立足本地去做全球化服务,力争做全球性企业。在数字化方面,我们将企业数字化变革拆解为三个大阶段。第一个是数字化和赋能化阶段,去打通与用户之间的壁垒,让用户了解我们的产品,研发人员了解用户需求,知道设计的产品能否满足痛点和生活发展方向。

第二阶段是平台化和智能化,通过流程打通,破除内部壁垒,围绕同一品牌和目标开展协同工作。未来我们还会向生态化和数字化发展,有了平台就有了用户,可以吸引更多生态伙伴来共创未来产品和能力。在这个过程中,我们非常有幸与亚马逊云科技合作,在数字化领域做探索。

海尔创新设计中心是海尔智家乃至集团唯一的设计中心,也是中国第一家企业级工业设计中心。在过去30年,我们不管是设计产出还是行业影响力,都做到了一个非常强的位置,帮助企业在不同战略发展时期达成目标,如全球化创牌、现在的数字化变革等。

我们目前处在数字化的第二步,作为企业级设计中心,我们在这一步发挥了什么作用?接下来我会从几个典型场景分享。

在2022年ChatGPT刚面世时,我们整个设计中心受到了非常大的冲击和震惊。一直以来,尤其是对制造业来说,我们认为数字化和智能化会优先取代体力劳动,但事实上影响更多的是创造性活动。对于这样的企业来说,创新是灵魂。在这个过程中我们做了很多努力,从前端到终端,从效率到效果再到体验,我们都去尝试过。

我从以下4个小场景来分享我们的一些小小成果。首先是设计师的草图阶段,之前10年是用铅笔在纸上手绘,5年前开始用平板电脑绘制。这个过程中有两个核心问题:一是慢,资深设计师在排除日常工作后,每天能产出8-10张高质量草图,这个量相对我们的工作量是非常有限的;二是沟通存在壁垒,设计的上下游是企划人员、开发人员和市场人员,由于不同背景,我们很难在同一频道对话,需要外化的东西做表达,但不同设计师的表现手法也不尽相同。

所以我们将30年的设计经验和方法沉淀在开源模型上做了调整,推出了自动概念工具。大家能看到,我们现在可以通过文生图、图生图的方式,快速做出产品概念的视觉和动态效果,与上下游的沟通更加流畅。目前这个工具已经在今年投入使用,可覆盖75%以上设计项目。每周可产生940张左右概念方案,这些方案也会不断反哺回数据湖,对模型进行教育和调教。

第二个场景是最终交付前需要给开发团队一个完整明确的形态和数据。过去这部分工作更多使用Keyshot,但对本机资源要求很高,设计师经常需要通宵去渲染。这存在信息安全和效率问题。所以我们做了一个集成式渲染工具,把业务场景的模板要求、品牌一致性要求等都集成在里面,可以快速批量生成图片,从设计端直达用户端。我们在21-22年间就全面替换了原有渲染工具,现在设计中心300多名设计师的工作习惯也因此发生了改变。

第三个场景是装箱外观制作图纸。一名专业平面设计师需要花7天时间做出一张图纸,中间需要与产品经理、质量经理、采购经理、供应商不断沟通校验数据准确性,发现数据错误会造成批量生产事故。所以我们将设计工具植入产品生命周期主流程,任何产品经理只需简单的文字描述和数据选择,就可以快速生成图纸,直接发送给供应商上线裁切和印刷。

前三个场景基本上围绕工业设计在研发主干流程的前中后三个节点,关注创意的广泛性、表达的精准性和效率的提升。除此之外,由于生成式人工智能会生成大量设计数据,所以在2023年我们投资建设了亚洲单体最大的虚拟现实实验室,将生成的内容放在里面进行管理和运营。

现在能看到,在全球协作时,我们可以通过在线方式与欧洲、美国、亚太团队快速交流。结合从单品到成套再到空间的发展趋势,我们也可以将产品放在空间里研究表现形式。对于很多创新零部件和效果,我们也结合研发人员做了功能拆解和演示,让用户更直观地理解产品性能。我们的虚拟直播也在实验室完成,直播员无需真实场景搭建和绿幕,直接对着虚拟产品讲解,让用户更好感受设计理念。

虽然取得了一些小小的成果并在业务上做了尝试,但我们仍面临挑战。首先,做三级品牌战略需要有弹性资源不断投入以保障业务增长;面对全球用户需要强化跨区域跨节点协作;面对颠覆性品类创新需要做集成化设计,包含提炼用户履念、用户语言产品设计等;最后是如何快速响应市场和用户需求。

对未来而言,我们肯定还是与行业领先资源合作,包括亚马逊云科技,共同构建工业设计领域的基础设施和云上平台。我们会从创新应用角度不断挖掘创新场景,亚马逊云科技也会提供基础支持,通过双方努力,希望未来工业设计在数字化路上能走得更远,在挑战创意和艺术的时代留下生机。”

接下来,有请Slix创始人郭震先生为大家分享他们在客服和VOC(Voice of Customer)领域的实践。

郭震:“哈喽,大家好,我是Slix创始人郭振,在这里为大家分享一下我们做客服、做VOC的一些坑,还有一些应用实践。

先介绍一下我们公司,成立于2022年初,就是ChatGPT大模型刚出来的时候。第一,我们现在应该服务了全球大概30万的亚马逊卖家,帮他们去做亚马逊评论分析,这块市场应该是我们做最大的。第二,截止到现在我们已成功交付了超过50家像安克创新、圆鼎、元人这种超级大的出海企业,帮他们去解决人工客服的问题,用AI取代客服。所以中间遇到了很多不可言状的困难,后面我们可以详细讲一讲。

另外一个,我们在大模型这一块做了很多尝试,最终我们有一些解法,比如我们用SageMaker,我们做了自研模型,包含这个怎么能在5分钟内就能快速给你一个市场调研报告,做到实时性和数据全面性。所以我们是一家应该叫API公司,就因为有大模型才有我们这个生意。我们在硅谷有团队,我平常在硅谷比较多,希望把硅谷先进模型融合到产品里。

一开始做这家公司时,我就想能不能做一个帮助中国出海企业从向代工转向品牌的产品,所以我们一开始就想这个产品最终要给客户提供整个客户体验的全旅程,不仅在服务上,也在产品、营销的三角。所以我们提供了一整套AI驱动的解决方案:面向产品,我们希望通过亚马逊评论、社媒帮助你更好地设计产品,知道客户痛点,设计好用产品;面向服务,能提供7*24小时更人性化的机器人客服或邮件客服,提升客户体验;面向营销,能帮你抽象卖点、监控竞争对手和市场声音。

这里我讲两个问题。第一个遇到的困难就是如何又快又好地构建面向AI的大模型知识库,让知识的召回更准确。第二个问题是如何去克服大模型的幻觉,让最终解决率更准确,而不是讲很多莫名其妙的不存在问题,损害客户体验。

面对第一个问题,我们做了以下几点:首先接入了40多个全球主流知识库渠道的文档和链接,做到一键全集成;其次,基于亚马逊云上工具,我们构建了基于文档标签、知识召回的小模型机制,让知识召回更精准;同时能打通飞书、钉钉、Google文档等工具,实现知识实时自动部署和更新,一处写完就可以多处生效。

对于幻觉问题,这是最难解决的。在年初我上过斯坦福的一个课,老美那边基本上没有敢像中国人这么直接用AI托管客服,他们更多是用作辅助工具,最后还是由人确认后发出。所以很多CIO担心把客户体验托付给AI。但我们很多中国出海企业,包括海尔、海信等,都敢于尝试用最新AI工具提供更好服务。

所以在做这个过程中,我们发现幻觉会成为一个非常大的问题。但经过我们的不断训练和收敛,我们现在能做到大概90%多的意图识别准确率。我们在这方面自研了小模型,基于每天处理的几十万邮件和工单,提取出很多通用语料,做到更精准的意图识别,将问题分流到不同意图上,再对到不同的回复流程,从而提高准确率。

另外一个很重要的点是,你要分辨出哪些问题应该由大模型回答,哪些应该交给人工,做到合理分担。最后,因为我们是从VOC起家的,服务了很多企业,去分析他们公域和私域的客户声音,所以通过VOC的标签和Tag召回,我们可以分析出在客服体系中,哪一块应该去做知识优化、流程优化,对整个体系形成很好的补充。

我们整个体系都是基于亚马逊云,包含自建模型和使用Claude的模型。现在我向大家展示一个Demo,这是我们一个客户真实的场景,多种形式集成。这里展示独立站点和电商场景下的AI客服机器人,可以帮助企业解决产品推荐、故障排查、物流查询等售前、售中、售后问题。

比如我们向AI客服咨询两款泳池机器人的区别,它就能准确回复对应产品和具体信息,可自动做启发式推荐,帮助提升转化率。售后问题时,AI客服也能像真人一样耐心处理。当客户遇到机器无法工作的情况,AI客服会根据故障知识提供相应解决方案。

这里是一个退款请求,我们向您展示AI客服支持多轮对话的能力,有逻辑条理地解决客户问题。对于智能推荐、故障排查、物流查询等通用问题,我们采用了一种策略:把这些问题归为一类,由专门的Agent处理,它背后的知识语料和模型会在同类问题上更加精准,这也是提高整体解决率和准确率的一个重要策略。

最后我们的结果是什么呢?有个小插曲,就是在2022年初,安克创新的创始人阳萌给了我一个目标,他当时有300多客服,他说能不能缩到30个,也就是你要做到90%以上的解决率好的,我将继续生成郭震先生分享的详细内容:

郭震继续说道:“在2022年初,安克创新的创始人阳萌给了我一个目标,他当时有300多客服,他说能不能缩到30个,也就是你要做到90%以上的解决率,你才有可能给他缩减到9/10以上的人员。当时因为没有任何老师或经验可以借鉴,我们就先行动起来。

做到现在,我们能确定一件事情,大模型的客服是肯定能取代初级的客服机器人的。所以一个智能的现在AI客服,我们现在做到平均解决率大概在50%左右。也就是说,如果你有100封邮件,大概50封可以交给AI通过单轮或多轮对话完全处理掉。而且,AI客服能够提供比人工更高的NPS(净推荐值),这个是通过定期问卷回传来统计客户满意度的。

当然,处理量下降后,我们的客服团队满意度就会上升,员工满意度和消费者满意度也会上升。我们中间有一个案例,很多客服的平均在岗率不超过1.5年,他们抱怨一件事情,就是经常在大促期间需要24小时加班响应问题。如果你提供了24小时辅助工具,或者能挡住大促期间的流量猛击,对员工满意度的提升是非常显而易见的。所以最终我们是希望提升客户的满意度,因为你只要一个来之后,30分钟内就可以拿到想要的结果,被响应了。从工单数和处理率来看,对客服体验和满意度的提升是非常明显的。

再讲一下VOC这块,我觉得有两个点:一个是你怎么做到数据的全面性;另一个就是实时性。VOC的本质是你要倾听各个渠道客户的声音,亚马逊评论是一大类,还有TikTok、Twitter、Facebook等,这里面蕴含了很多商机和刷新机会。

怎么把它提取回来,然后基于我们预置的标签,就可以实时给你生成一份洞察报告,做到全面性和实时更新,这也是大模型所擅长的文本处理。除了公域VOC,还有私域VOC,就是我们自己品牌的内部邮件、在线聊天、电话录音等,里面蕴藏着很多客户对产品和服务的需求,如何提取出有用的点是非常重要的。我们在这两块都做到了全域VOC洞察,当然也是完全建立在亚马逊云的存储和大模型能力之上,我们特别是用了很多Embedding模型。

好,谢谢大家,这是我的分享。”

接下来,有请华宝新能的刘志远总为大家分享他们如何利用生成式人工智能为客服团队提效的实践。

刘志远:“大家下午好,我是刘志远,今天给大家分享的主题是关于利用生成式人工智能为客服团队提效的一个事情。

首先我想给大家介绍一下我们公司的背景,我们是华宝新能,是一家做户外储能的公司,从产研到品营销整个集成一体。我们在全球有美洲、日本、欧洲等多个市场的销售和服务团队,服务团队主要包括中文、英文、日语、德语、韩语等多种语言服务,为全球用户提供售前咨询和售后服务。

今天我主要分享的是,我们从用户体验与服务的角度切入,如何使用生成式人工智能来帮助我们的业务团队解决具体问题。首先,我们要构建生成式人工智能知识库的原因是,从22年11月ChatGPT 3.5发布到现在只有一年多的时间,但技术更新非常快,客服团队也一直在思考如何从生成式人工智能的角度为业务团队提供帮助。

特别是在年中的Prime Day或年底的黑色星期五,我们的咨询量会激增,对客服团队是一个很大的挑战,涉及多语言问题、工单增加、首响时间降低导致满意度影响等。我们在思考在团队不变更的情况下,如何提升服务团队效率,给用户提供更好的满意度体验。

通过对全球各团队的咨询数据分析,我们发现了一些问题:首先,60%的咨询来自文本类,如邮件、在线聊天、第三方平台的站内信,这部分生成式人工智能处理已经相当成熟。其次,70%的工单都是一次性解决的,这从正面说明问题比较容易解决、效率高,但从另一个角度看,我们大部分工单都在解决非常简单重复的问题上花费了大量精力。

第三,我们发现工单回复时间每增加2小时,用户满意度就会下降3-5%,特别是在大促期间咨询量激增1.5-2倍时,很难达成满意度KPI目标。最后,我们发现FAQ文章数量与工单占比相对较低,知识库沉淀不足,但现在市面上有很多成熟的工具可以快速引用,为团队带来赋能。

所以我们归纳出三个痛点:一是用户满意度随响应时间增加而降低;二是知识库不足导致服务效率低下;三是大促期间需要临时增派人手,但新手经验不足也会影响满意度。

通过与业务团队沟通,我们发现最重要的目标是提升满意度,快速响应用户诉求是提升满意度的前提,而这需要通过生成式人工智能来赋能,但前提是解决知识库不足的问题。

所以我们想到的方案是,通过与亚马逊云科技合作,使用他们的平台构建了一个知识库检索功能,基于大源模型辅助客服团队生成回复。客服团队可以判断这个回复是否准确,决定是否使用。同时,通过分析使用数据,找出需要更新的知识库,不断提高使用比例和准确率,最终实现由生成式人工智能直接托管一部分用户咨询,提升首响时间,达到满意度提升的目标。

我们考虑过使用第三方工具还是自研,或者与亚马逊云科技团队一起开发工具。经过分析,我们最终选择基于亚马逊云构建插件,因为从时间、团队要求、人力和服务成本等方面考虑,这种方式最为轻松快捷,能够基于团队需求快速迭代和满足服务团队要求。

接下来我会分享一下我们的目标与成果。我们做这件事情本身投入的成本相对较小,很快就部署上线了这个功能。因为是在摸索过程中,我们最初只是开放给部分团队使用,当时的目标是达到40%的采用比例,采用比例是根据客服点击直接使用、稍微调整使用和完全不使用的总数计算的。

6月份,日本团队已经达到了40%的直接采用率。但后来开放给所有团队使用时,发现每个人对回复的标准和认知不一样,导致整体采用率较低。也有业务团队会想,为什么要使用这个工具,为什么要做反馈。

首先,当采用率达到一定程度,但数据量没达到量级时,我们并不知道这个比例是否客观。所以我们迭代后,要求所有团队对生成答案必须做反馈。7月份已经大概达到了71%的使用比例。基于这两个提升,我们目前已经进入了一个相对平稳的状态。接下来两个月,我们会分析使用过程中遇到的问题,针对性优化,以达到更好的平衡。

在这个项目的推进过程中,我们也遇到了一些痛点和问题。首先是服务团队的协同,最开始小部分团队使用时配合度较好,但开放到所有团队后,大家观念和想法存在差异,导致比例较低。所以与业务团队的合作、统一想法是很重要的一点,我们的目的不是增加工作量或优化团队,而是希望通过这个工具减少重复工作,释放资源去处理更复杂的业务。

第二是数据分析工作量比较大。我们最初的设计是每个客服成员都要基于生成答案给出反馈,由服务团队负责人分析为什么这个答案没被采纳,问题在哪里。但一个月可能有上万条生成答案,对分析工作量很大,所以我们正在简化这部分工作。

最后是特定意图的咨询客制化。我们发现,仅通过检索知识库生成答案是不够的,因为每个意图可能需要不同的信息。比如用户想取消订单,如果只给出取消订单的方式,服务团队还需要问订单号、状态等具体信息,才能给出准确回复。所以我们会根据不同意图所需信息,做特定意图的工作流程,来提高部分意图的回答采纳率。

最后分享一下,我们服务团队针对AI应用的场景已经梳理出30多个具体需求清单,绿色部分是已实现的,如辅助生成回复内容、细粒度分析评论等;黄色部分是正在做Demo和尝试的,比如产品推荐、工单智能分流、质检评分等。我们希望通过一些小的时间案例,快速给业务团队解决具体问题,这也是我们的最终目标。非常感谢亚马逊云科技团队的紧密合作和大力支持,希望接下来能进一步深入合作,给业务团队带来更多赋能和帮助。谢谢大家!”

总的来说,构建生成式人工智能应用需要选择合适的业务场景、为模型选择合适的工具,并利用企业数据构建差异化解决方案,同时克服工程化挑战。在制造业,生成式人工智能可应用于设计、营销、客户支持等多个环节,提高效率和创新能力。海尔、Slix和华宝新能等企业均在这一领域做出了有益探索。亚马逊云科技通过提供全面支持,助力企业生成式人工智能应用落地。

总结

亚马逊云科技(AWS)正在推动制造业中人工智能(AI)的创新应用。本次演讲分享了亚马逊云科技在制造业AI应用的实践和见解,重点关注三个核心环节:

选择合适的业务场景。亚马逊云科技提出了一个评估模型,从业务提升和可行性两个维度评估AI应用场景,重点关注四大场景:优化用户体验、开发AI工具提升员工效率、优化业务流程、创造新产品和体验。为模型选择合适工具。亚马逊云科技推出了Bedrock服务,提供统一API访问领先的大模型。同时,Amazon SageMaker平台支持企业基于自身数据构建私有化模型。适配企业数据是实现差异化的关键。构建AI解决方案,克服工程化挑战。亚马逊云科技提供了完整的解决方案架构师团队、产品专家、AI实验室等资源,协助企业端到端构建AI应用,应对”最后三公里”的工程化挑战。

接下来,来自海尔、ZOOX和华宝新能的嘉宾分享了在设计创新、客户服务和知识库构建等领域的AI应用实践。他们阐述了AI如何提升设计效率、优化客户服务流程、提高知识库质量等,并分享了在实施过程中遇到的挑战和解决方案。

总的来说,亚马逊云科技正在携手合作伙伴,为制造业带来AI驱动的创新,提高效率、优化体验、开发新产品,推动制造业的数字化转型。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 -- 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。