国产大模型DeepSeek凭借其技术范式的革新和性能优势跻身全球大模型第一梯队，中国人工智能领域迎来突破，但大模型与生俱来的“幻觉”、大模型应用的安全问题也引发了广泛关注。

今年全国两会期间，全国政协委员、360集团创始人周鸿祎表示，大模型“幻觉”对大模型的创造力非常重要，应给予适度包容；不过政府、企业在落地大模型应用时，需要将安全要素深度嵌入人工智能应用全流程。

对大模型“幻觉”给予适度包容

以DeepSeek为代表的大模型，不仅促进了大模型技术自主创新，也带动了上下游产业协同发展，让大模型加速走进百行千业，成为推动中国科技进步、经济增长和国家强盛的关键力量。

但周鸿祎表示，包括DeepSeek在内的大模型都存在“幻觉”，偶尔会生成看似不合理、与事实不符的情况。在他看来，“幻觉”是一把双刃剑，是大模型与生俱来的特点，不可消除，也决定其创造力和想象力，对于实现AGI（通用人工智能）极其重要。如果大模型没有“幻觉”，就失去了想象力和创造力，并且越是能力强的模型，幻觉也越多。

在他看来，在科研领域，大模型的“幻觉”能“想象”新药分子结构、蛋白质的结构等，为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域，“幻觉”虽然可能出错，但可以利用技术手段，如RAG（检索增强生成）技术，通过比对专业知识库、网络实时信息等方式予以矫正。

周鸿祎表示，回顾过去30年，我国法律法规吸纳了“避风港原则”，让企业敢于投入创新，带来了互联网行业的繁荣，也为后来的“互联网+”、如今的“人工智能+”提供了技术、产业和人才支撑。

因此，他建议，借鉴“避风港原则”成功经验，对大模型以及相关的产品和服务实施柔性监管，适度包容大模型的“幻觉”，对于“幻觉”导致的一般性失误，给予企业自我纠正的机会，促进企业大胆创新，争取让更多企业“复制”DeepSeek的成功。

“以模制模”解决大模型应用安全问题

在大模型应用层面，周鸿祎认为，随着开源带来大模型的广泛应用，未来将会有各类专业大模型、垂直大模型、场景大模型，连接内部知识库，以智能体的形式在大批政府机构和企业中广泛部署，推进“数转智改”，实现降本增效。

然而大模型存在幻觉、内容安全等诸多问题，无法通过传统安全方案有效化解，这可能会给一些部署在政府、企业内部的基座模型、知识库或智能带来潜在风险和安全挑战。

基座模型安全方面，由于大模型普遍存在的“幻觉”现象，这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。

知识库安全方面，政府和企业核心数据资产存储于内部知识库中，若缺乏有效的安全控制措施，未授权用户可能利用与大模型交互的机会窃取这些宝贵的数据资源。

智能体安全方面，智能体通常与政府、企业内部各类IT、邮件、控制系统相连，一旦遭受攻击，可能会引发一系列连锁反应，从发送有害邮件到中断生产线运作，造成严重的物理损害。

周鸿祎介绍，针对上述挑战，360运用人工智能技术重塑安全格局，采用“以模制模”的方式应对新难题，护航政府与企业大模型落地应用。他建议相关部门及时出台配套政策措施，鼓励具备“安全+人工智能”完整解决方案的链主企业，加速推动技术成果转化，将安全要素深度嵌入人工智能应用全流程。

实习编辑:金怡杉 | 审校:陈筱娟 | 审核:李震 | 监审:万军伟