“人工智能前沿技术的治理挑战与应对”论坛

7月4日，2024年世界人工智能大会（WAIC2024）在上海世博中心举行。在“人工智能前沿技术的治理挑战与应对”论坛上获悉，《中国人工智能重大应用场景白皮书》及“智能向善全球伙伴计划”正式启动，该研究及行动旨在促进人工智能与重大应用场景高效结合，加快人工智能技术的成果转化。《白皮书》的案例征集报名及编制工作报名入口也在论坛现场正式对外公布。

作为深耕中国创新创业市场的新经济服务平台，也将与清华大学人工智能国际治理研究院等机构密切沟通合作，基于即将启动的“未来城市大奖2024”，通过场景征集、案例互荐、成果联合发布等形式，共同助力《白皮书》的编著及推广。

在论坛的演讲环节，图灵奖得主、中国科学院院士、清华大学人工智能学院院长、上海期智研究院院长姚期智，联合国副秘书长、联合国大学校长Tshilidzi Marwala，香港科技大学首席副校长、英国皇家工程院院士郭毅可发表了主旨演讲，论坛参与各方也就人工智能安全与治理问题进行了深入探讨。

图灵奖得主、中国科学院院士、清华大学人工智能学院院长、上海期智研究院院长姚期智

来自清华大学的姚期智院士作题为《人工智能安全治理的研究方向》的主旨演讲，介绍了前沿大模型带来的信息、物理、生物智能风险与生存风险，引申出AI的系统安全与确保人的利益问题，提出从技术和路径的维度进行分类治理；以大模型时代的数据安全研究举例，指出大模型会记住隐私数据，而保护用户隐私的研究尚处在较原始阶段，重要方向是为大模型数据安全开发出一组核心技术；以有益的通用人工智能（Beneficial AGI）和可证明的安全通用人工智能（Provably Safe AGI）为例，介绍了AI安全治理的大格局理论研究。

姚期智院士强调，AI安全治理的当务之急在于发展AI对齐与相应的评估方法、结合中国优势来建立符合国情的AI治理框架。

联合国副秘书长、联合国大学校长Tshilidzi Marwala在视频演讲中指出，联合国一直致力于人工智能治理以造福人类，2021年联合国教科文组织发布了人工智能伦理建议，即将以此为基础提出“全球数字契约”。2024年4月，联合国大学启动了全球人工智能网络，它拥有来自19个以上国家和地区的40多名创始成员，清华大学人工智能国际治理研究院是其创始成员之一，期待中国学者和实践者的积极加入。

香港科技大学首席副校长、英国皇家工程院院士郭毅可

香港科技大学的郭毅可院士认为，数据安全治理是人工智能和数字转型时代一个至关重要且不断演进的议题。积极地来看，可以通过区块链增强数据安全、敏感数据风险防控、加密和匿名化等技术手段进行有效数据治理，其中访问控制和权限管理、敏感数据监控和审计对确保数据安全至关重要。

论坛的研究成果发布环节由清华大学人工智能国际治理研究院副院长梁正主持。《全球人工智能治理与中国方案》研究报告（征求意见稿）在现场发布，清华大学文科资深教授、清华大学人工智能国际治理研究院院长薛澜教授对报告进行了解读。

清华大学文科资深教授、清华大学人工智能国际治理研究院院长薛澜

薛澜表示，本轮人工智能浪潮处于“工具化末期、产品化初期”阶段，“发展治理”和“安全治理”受到高度关注。在此背景下，中国实践能够为全球人工智能治理注入动力，包括发展中国特色人工智能治理体系，引领国际治理变革；加快科技创新和产业应用，推动全球人工智能发展；发出全球人工智能治理倡议，提出全球治理“中国方案”。

中国发展出版社社长王忠宏

由薛澜担任顾问、梁正主编的《前沿人工智能：发展与治理》新书也在论坛现场正式发布。中国发展出版社社长王忠宏指出，在清华大学人工智能国际治理研究院的支持下，该书覆盖了人工智能的发展全景、产业应用，深入探讨了人工智能的潜在风险和国际治理等多个关键议题，介绍了前沿人工智能产业生态发展轨迹及商业变革趋势，展示了人工智能在工业、政务、教育等多个领域的实际应用案例和成效，同时也探讨了人工智能国际治理议题，提出了构建开放包容的国际治理体系的策略与方法。

随后，《中国人工智能重大应用场景白皮书》及“智能向善全球伙伴计划”启动仪式在论坛现场举行。之江智慧场景研究中心主任陶海青就清华大学人工智能国际治理研究院联合多家机构共同开展的《白皮书》研究工作进行介绍。

之江智慧场景研究中心主任陶海青

陶海青表示，《白皮书》将围绕“智能制造”“智慧农业”“智慧商贸物流”等重大人工智能应用场景，涵盖场景总体架构与子场景组成、AI+整体技术架构、关键领域技术创新与趋势、国际与中国代表性场景案例分析等分支内容，促进人工智能与重大应用场景高效结合，加快人工智能技术成果转化。与此同时，多家机构共同参与的“智能向善全球伙伴计划”将在政策咨询、国际交流、人才培育等方面发挥作用，以进一步扩大《白皮书》的影响力与实用价值。

《中国人工智能重大应用场景白皮书》及“智能向善全球伙伴计划”启动仪式

中国移动集团副总经理李慧镝、中国投融资担保有限公司董事长邓星斌、中国电信研究院党委书记闫丽莉、阿里巴巴集团副总裁李倩、华信永道董事长刘景郁、华为战略研究院人工智能治理产业发展首席专家柳嘉琪作为企业代表登台，与薛澜、王忠宏、梁正、鲁俊群、陶海青等学界代表共同见证了《中国人工智能重大应用场景白皮书》及“智能向善全球伙伴计划”的正式启动。