在亚马逊云科技2024 re:Invent全球大会上，生成式AI近年来的指数级增长，理所当然地成为了广大参会者热议的话题。

在大会期间，亚马逊云科技人工智能、机器学习服务与基础设施副总裁 BaskarSridharan接受了的采访，并针对生成式AI带来的机遇与挑战，生成式AI如何从原型走向生产，亚马逊云科技提供的生成式AI创新解决方案等话题进行了深入探讨。

“在过去的18到24个月中，我们看到生成式AI已经出现了指数级的迅猛增长。但是与此同时，整个行业目前仍然面临着一个挑战，那就是如何将原型成功地转化为产品或者说是生产，仍然是一个亟待解决的问题。”谈到生成式AI近年来的增长态势以及面临的挑战时，Baskar Sridharan如是表示。

Baskar Sridharan认为，生成式AI从原型走向产品，一共有四个关键性的因素，分别是模型、成本、数据以及信任。

一、模型

亚马逊云科技能够为用户提供非常广泛的模型选择，这些模型来自AI21 Labs、Anthropic、Cohere、meta、Mistral AI、Stability AI等全球领先的大模型供应商，同时也包括了亚马逊云科技提供的自研模型，覆盖了多种用途和场景。

一方面，针对客户特定的用途，亚马逊云科技为其提供了选择的权利，让客户可以根据自己的需求来选择最适合自身应用场景的模型，这将直接影响到后续的生产效率和产品质量。

另一方面，模型本身也是在不断向前跃进的，可能现在选择模型A最合适，但是过几个月可能就变成了模型B最合适，再过几个月又变成了模型C最适合。然而与此同时，客户的生成式AI开发又需要整个模型生态系统保持稳定，亚马逊云科技也为他们提供了这种保障，这两点都非常关键。

二、成本

客户在制定原型的时候会给自己设定一个预算的标准，在从原型转向生产的时候，客户需要能够很好地管理推理模型和训练模型的成本。为此亚马逊云科技推出了Amazon SageMaker和Amazon Bedrock等产品。

Amazon SageMaker提供了灵活性和快速模型微调的能力，能够帮助客户极大地降低训练所产生的成本，Amazon SageMakerHyperPod系列下的产品能够通过任务管理能力将多个任务放在一起，由系统统一进行管理，从而使成本降低高达40%。Amazon SageMaker Lakehouse同时支持亚马逊云科技和第三方的数据，为客户提供了更大的灵活性和便利性。客户可以根据自己的需求来构建定制化模型，并使用同样的数据开发生成式AI应用程序。

Amazon Bedrock则专注于降低推理方面的工作成本。此外亚马逊云科技还针对Amazon Bedrock推出了模型蒸馏（Model Distillation）、自动推理检查（Automated Reasoning checks）、多Agents协作（Multi-agent collaboration）等三大全新功能，这些功能都可以帮助客户更好地控制成本，提高生产效率。

Model Distillation模型蒸馏功能，可以从大模型生成响应来对小模型进行微调，能够实现模型构建提速500%，成本降低75%的惊人效果，对于那些想要大规模部署生成式AI的客户来说，这一功能的意义显然非同寻常。

Automated Reasoning checks自动推理检查功能，可以通过数学验证来确保大模型生成的响应的准确性与合理性，防止模型幻觉导致的事实错误，从而更好地控制成本。

Amazon Bedrock multi-agent collaboration多Agents协作，可以支持多个Agents之间的协同工作并有效降低成本，帮助客户按照自己期望的方式，构建更加复杂和高效的生成式AI应用。

三、数据

对于所有的现代企业来说，数据都是生命之源，对于以AI为主业的企业则更是如此。而在将数据集成并放到AI的过程当中，有一个非常大的区别就在于，不同的用户所用到的数据也截然不同。因此在生成式AI方面所谓的差异化，最直观的体现就是这些数据。为了帮助客户更好地实现这种差异化，亚马逊云科技在Amazon Bedrock产品线中引入了一系列的功能。

Amazon Bedrock Data Automation：帮助客户将大量非结构化数据，包括文本、图像、声音、视频等不同的非结构化数据放在一个统一的API力，让客户能够更加方便地将这些非结构化数据直接用于生成式AI应用的开发，譬如构建智能文档处理、媒体分析和其他以多模态数据为中心的自动化解决方案。

Amazon Bedrock prompt caching：AI提示可能是重复性的，该功能可以帮助客户节省重复提交相同提示的成本，通过自动缓存重复提示，能够降低90%的成本，还可以减少85%的延迟。

Amazon Bedrock Knowledge bases：新增了对结构化多模态数据以及GraphRAG的支持，更有助于提高模型输出质量和减少模型幻觉，进一步拓展了客户利用自身数据提供定制化生成式AI体验的途径。

四、信任

随着生成型AI持续不断地推动技术创新和行业变革，负责任的人工智能也变得越来越重要。亚马逊云科技相信，人工智能的长期成功，取决于它是否能够激发用户、客户和社会之间的信任。这一信念也是亚马逊云科技长期致力于负责任地建立和使用人工智能的核心。

负责任的人工智能超越了减轻风险和调整相关标准和条例的范围，通过主动建立信任和释放人工智能的潜力来推动商业价值。负责任的人工智能使得企业组织能够大胆创新，提高效率，实现变革性的业务成果。

信任是采用人工智能的基石，在本届re:Invent上，亚马逊云科技兴奋地宣布推出负责任的AI工具、功能和资源，以提高生成式AI服务和模型的安全性、安全性和透明度，帮助客户开启负责任的人工智能之旅。以Amazon Bedrock Guardrails为例，该功能提供了行业领先的安全保护，在基础模型提供的本地保护之上阻断了85%的有害内容，并通过上下文检查和自动推理检查过滤了75%以上的模型幻觉，这也使得亚马逊云科技成为了第一家也是唯一一家在生成型AI产品中集成自动推理的主要云供应商。

“亚马逊云科技致力于促进对AI的信任，并授权各种规模的组织有效和负责任地建立和使用AI。我们对本周在re:Invent上宣布的负责任的人工智能创新感到兴奋。从Amazon Bedrock Guardrails的新的保障和评估技术，到最先进的Amazon Nova系列，再到通过ISO/ICI 42001认证和新的亚马逊云科技AI服务卡，有了更多的工具、资源和内置的保护，才能帮助客户负责任地创新，用生成型AI释放更多价值。”Baskar Sridharan表示。