在评估大模型的商业潜力时,企业和技术服务商都普遍持乐观态度,并认识到这一技术有望开启新的商业机遇。然而,将大模型的潜力转化为实际业务效益的过程,无疑充满了诸多挑战。
在此次革命性的大模型转型旅程中,企业不仅要拥抱创新带来的效率和效能提升,还需精心应对成本控制、人才短缺、技术复杂性以及信息安全等一系列考验。
挑战1:高成本、复杂投入下的投资收益挑战
算力资源的消耗是当下阻碍AI大模型落地的最主要因素,这一成本对不少企业的财务状况构成了较大的压力。调研数据显示,92%的企业认为在大模型工程化落地阶段,缺少算力资源是最大的挑战;细分来看,89%的高管认为模型训练成本高,81%的高管认为模型推理成本高。
对比而言,模型的调优成本已经相对低价,仅有35%的企业认为模型调优成本高。这些成本无疑是企业财务投入的重要考量点,使得企业在做出是否引入大模型的相关决策时显得犹豫不决,不得不权衡预算和投资回报之间的比重。
挑战2:模型选配难题精准匹配难,适配挑战加剧
87%的企业认为模型精度还不能满足落地要求,无法衡量具体效果;具体表现在涉及用户信息、面向生产和决策的任务中,对模型的逻辑推理、任务执行要求更高,而当前大模型的泛化性使得企业在模型优化上面临更大的挑战。
挑战3:模型部署落地:细节挑战遍布,每一步都是考验
59%的企业认为模型调优是大模型开发中投入最多且挑战更大的工作之一。由于模型优化方式、路径、调整程度选择多样且企业缺少足够经验和技术支撑,导致该过程复杂且耗时,使得经验欠缺的企业在执行过程中面临众多困难。