当前位置: 首页 » 资讯 » 新科技 » 正文

AI应用在B端率先爆发 百度文心大模型日均调用超15亿次

IP属地 北京 编辑:郑佳 IT时报 时间:2024-11-15 12:40:18

记者 孙妍

“AI应用正率先在B端爆发。”11月12日,在百度世界2024大会上,百度集团执行副总裁、百度智能云事业群总裁沈抖表示,由企业级大模型工程平台、异构算力平台组成的新型AI基础设施将替代传统云计算,为大模型应用在企业生产力场景中的规模落地提供关键支撑。

目前,百度智能云拥有中国最大的大模型产业落地规模。超过六成的央企和大量的民营企业,正在联合百度智能云进行AI创新。百度智能云千帆大模型平台已经帮助客户精调了3.3万个模型、开发了77万个企业应用、文心大模型日均调用量超过15亿次。

AI应用率先在B端爆发 已开发77万个企业应用

2024年,大模型产业落地大提速,百度的判断也是AI会率先在B端爆发。目前,百度智能云已经在能源、电力、制造、金融、交通、政务、互联网、教育、电商等数十个行业、几百个场景中落地大模型应用。

大模型如何让大家更精准地找到适合自己的工作,又如何帮企业精准快速地找到想招的人?百度创始人李彦宏在大会上提到,目前百度智能云和智联招聘的合作已经成功沉淀出一系列提示词模板,并在数万条实际数据中得到验证,人岗匹配平均准确率高达93%,为招聘行业带来了全新的变革。

在百度智能云分论坛上,智联招聘CTO王昊详细分享了智联招聘的大模型探索思路,“如果把大模型当做一个‘人’来看,我们的思路又会打开很多。”由此出发,王昊团队尝试向客服、HR sourcing、HR面试等场景中部署大模型应用。

从落地应用效果来看,与传统客服系统相比,智联招聘应用大模型的客服系统“i客服”助力客服人工成本降低66%;落地HR sourcing托管服务,实现回复发起率比人工提升13%,约面率更是高出人工38%;在面试场景,智联招聘以大模型为驱动,加之数字人技术加持,实现面试产品“AI易面”技术大幅升级,成本远低于真人面试。

完成单一业务赋能后,智联招聘尝试将招聘工作流贯通,打造了AI招聘助手艾琳(Ailin)。作为一款招聘全流程提效产品,艾琳能够协助HR完成面试环节之前的所有工作,如一键生成有吸引力的职位描述、高效筛选简历、辅助HR与求职者沟通以及精准推荐人才等。

此外,中国最大的餐饮公司百胜中国基于文心大模型打造了AI智能客服系统,为旗下包括肯德基在内的多个品牌提供服务。目前,AI客服每天能够为百胜中国处理超过15万次消费者沟通,问题解决率高达90%;在电商领域,过去拍摄制作真人产品推广短视频需要专业团队花费几天时间才能完成。而“文生3D数字人视频”只需一句话,就能生成符合不同行业场景特色的3D数字人形象和专业灵动的视频,成本仅有传统方式的1%,工作效率提升超过1倍。

百度智能云千帆大模型平台已经帮助客户精调了3.3万个模型,精调模型的数量一定程度上反映了大模型与产业结合的深度。“这个数量今年增长地特别快,在千帆大模型平台上,每天有超过一半的调用量是来自精调后的模型。”沈抖说。

文心一言用户规模达4.3亿 中国跳水队用大模型辅助训练夺金

“文心一言的用户规模达到4.3亿。”百度首席技术官王海峰在大会上宣布了这一数据。

大模型、智能体等技术发展迅速,而这些技术如何更高效率、更低门槛应用于产业呢?

百度打造了文心大模型矩阵,包括ERNIE 4.0 Turbo等旗舰大模型、ERNIE Speed等轻量模型,以及基于基础模型生产的系列思考模型和场景模型。而在这背后,文心大模型和飞桨深度学习平台联合优化。王海峰披露,飞桨文心开发者数量已达1808万,服务了43万家企业,创建了101万个模型。

今年的巴黎奥运会,中国跳水队完美收官,首次包揽8块奥运金牌。跳水队“零水花”的背后也有AI技术的支撑。

早在2019年,百度就和中国国家跳水队开展技术合作,研发智能跳水辅助训练系统,为运动员科学训练提供技术支撑。系统采用云、边、端一体化技术,全自动识别、跟踪、采集、分析每一个跳水动作。从运动员起跳到入水这1.8秒的时间,录制高速视频,实时反馈到教练手中的平板上,对运动员的姿势、动作等进行针对性的指导。基于文心大模型,系统还可以对动作实时打分、精准量化分析,制定训练计划,对运动员身体数据进行全面管理和科学评估,助力科学高效训练。

当天,全红婵、陈芋汐、曹缘奥运冠军分享了使用百度AI技术的亲身体验。全红婵坦言,巴黎周期自己长高、长重了,做动作的感觉和之前不一样,这套系统可以多角度还原动作,同时也能和之前的动作做对比,看看差别在哪,这样可以把动作完成得更好。她直呼这套系统“真是太全面了”。

会上透露,百度将继续助力中国国家跳水队在洛杉矶奥运会周期的训练与备战。

突破大算力管理难题 实现10万卡算力集群跨地域部署

目前,百度智能云是行业内最早部署10万卡集群的厂商之一,百舸平台兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片,支持同一智算集群中混合使用同一厂商不同代际芯片、不同厂商芯片,最大程度上屏蔽硬件之间差异,帮助中国企业摆脱单一芯片带来的高溢价和供应链风险。

未来,“一云多芯”将成为中国企业的必然选择。在万卡规模集群上,百舸能够将两种芯片混合训练大模型的效率折损控制在5%以内,达到业界领先水平。

10万卡规模超大集群需要占据大概10万平方米空间,相当于13个标准足球场;每天则要消耗大约300万千瓦时的电力,相当于北京市东城区一天的居民用电量。这种对于空间和能源的巨大需求,远超传统机房部署的承载能力,而跨地域机房部署又会给网络通信带来巨大挑战。通过设计高效的网络拓扑结构,结合模型切分优化和跨地域无拥塞高性能网络方案,百舸能够在横跨几十公里的多机房组成的万卡规模的集群上,将单一模型训练任务的性能折损控制在4%以内。

目前,百舸AI异构计算平台 4.0已经落地服务中国石化、中海石油、长安汽车、上海交通大学、地平线等行业龙头企业和机构。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新