当前位置: 首页 » 资讯 » 新科技 » 正文

全国政协委员、360集团创始人周鸿祎:包容失误 借鉴“避风港原则”

IP属地 北京 编辑:赵云飞 GPLP 时间:2025-03-07 20:06:30

在2025年“两会”期间,全国政协委员、360集团创始人周鸿祎聚焦大模型安全与 “幻觉” 问题。他认为,以DeepSeek为代表的国产大模型取得了“国运级科技成果”。DeepSeek凭借技术范式革新和性能优势跻身全球大模型第一梯队,其开源、透明、免费等特质,推动大模型加速走进百行千业,不仅促进技术自主创新,带动上下游产业协同发展,更成为推动中国科技进步、经济增长和国家强盛的关键力量。

然而,随着大模型应用愈发广泛,安全问题日益凸显。周鸿祎指出,大模型存在幻觉、内容安全等诸多问题,无法通过传统安全方案有效化解。未来,各类专业、垂直、场景大模型将连接内部知识库,以智能体形式在政府机构和企业中广泛部署。一旦基座模型、知识库或智能体任一环节出现安全隐患,极有可能诱发系统性风险。

周鸿祎建议,一方面推动安全技术创新与成果转化,鼓励具备“安全+人工智能”解决方案的链主企业,基于安全大模型技术开展研发,将安全要素嵌入人工智能应用全流程;另一方面,组建人工智能大模型安全联盟,实现联盟内技术成果共享,共同测试产品与服务,成熟后向市场推广,助力大模型安全保障普及。

此外,对于大模型的“幻觉”问题,周鸿祎表示,“幻觉”是大模型与生俱来的特点,不可消除,却决定着其创造力和想象力,对实现通用人工智能(AGI)至关重要。在科研领域,“幻觉”能“想象”新药分子结构、蛋白质结构等,为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域,虽可能出错,但可利用RAG(检索增强生成)技术,通过比对专业知识库、网络实时信息等方式矫正。

周鸿祎建议,借鉴“避风港原则”成功经验,对大模型及相关产品和服务实施柔性监管,适度包容“幻觉”,对于一般性失误,避免直接关停下架,给予企业自我纠正机会,促进企业大胆创新、放手竞争,争取让更多企业“复制”DeepSeek的成功。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新