3月4日,全国政协十四届三次会议开幕。全国政协委员、360集团创始人周鸿祎表达了对人工智能发展的关注。两会期间,周鸿祎聚焦关注大模型安全和幻觉,提交的三份提案聚焦AI和安全两件事。
国产推理大模型DeepSeek-R1的诞生标志着中国AI技术成功从“追赶者”向“领跑者”的角色转换,为政府、企业与个人呈献出全新的生产力工具。在这一背景之下,人工智能大模型安全的重要性日益凸显,一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患,都极有可能诱发整个生产环境爆发系统性风险,且无法通过传统安全方案有效化解。
周鸿祎在《关于统筹解决大模型应用安全的建议》提案中建议,一,支持安全技术创新与成果转化。建议相关部门及时出台配套政策措施,鼓励具备“安全+人工智能”完整解决方案的链主企业,针对人工智能应用所涉及的基座模型、知识库、智能体等安全问题,以模制模,基于安全大模型技术开展研发工作,加速推动技术成果转化,将安全要素深度嵌入人工智能应用全流程。二,组建产业联盟,打造安全产品。引导相关链主企业发挥牵头作用,广泛吸纳产业链上下游企业、科研机构及终端用户,组建人工智能大模型安全联盟,在联盟内部实现技术成果共享,共同开展产品及服务测试,待产品与服务成熟稳定后,向更广阔的市场加以推广,助力大模型安全保障普及至千行百业。
周鸿祎认为,在科研领域,大模型的“幻觉”能“想象”新药分子结构、蛋白质的结构等,为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域,“幻觉”虽然可能出错,但可以利用技术手段,如RAG(检索增强生成)技术,通过比对专业知识库、网络实时信息等方式予以矫正。为此,周鸿祎在《关于适度包容大模型“幻觉”的建议》提案中建议,大模型发展关系国运,不能因过度追求准确而限制其创造力,需要对“幻觉”给予柔性监管,打造支持创新、包容失误的良好环境,争取让更多企业“复制”DeepSeek的成功。建议借鉴“避风港原则”成功经验,对大模型以及相关的产品和服务,实施柔性监管,适度包容大模型的“幻觉”,对于“幻觉”导致的一般性失误,避免直接关停、下架,给予企业自我纠正的机会,促进企业大胆创新、放手竞争。
如今,软件即服务(SaaS)已成为全球趋势。SaaS 服务产品具有产品可见、可体验的优势,价格便宜,交付简单也容易推广,能够快速助力企业形成安全能力,构建防御体系。近年来,企业通过购买云服务、算力、存储的模式极大地提高了效率,降低了成本,有力推动了国家数字化建设进程。网络安全行业也亟须跟上当前安全形势需求,推动网络安全的服务化转型。
周鸿祎在《以安全即服务破解网络安全行业困境》提案中建议,一,鼓励从购买硬件产品转变为购买安全服务。建议财政部将安全服务部署纳入专项补助项目,对积极采用安全服务的企业给予财政补贴或税收优惠,引导市场向服务型转变,实现网络安全能力的跨越式提升。二,鼓励购买SaaS化的安全产品。国家可鼓励和引导企业采购此类服务,让企业能够以低成本快速适配自身需求,直观评估服务成效,从而有效提升网络安全防护水平。