首尔宣言
概述
首尔宣言（Seoul Declaration）是2024年5月21日在大韩民国首尔举行的 AI首尔峰会（AI Seoul Summit） 上通过的、关于人工智能（AI）安全、创新与包容的国际宣言。它是英国主导的2023年布莱切利宣言（Bletchley Declaration）的后续讨论，旨在应对AI的快速发展，推动各国建立共同的安全原则与国际合作体系。大韩民国与英国担任共同主席国，30余个国家的首脑及部长级人士、主要AI企业和国际组织代表参加了会议。
主要内容
推进背景
2023年11月在英国布莱切利园举行的第一届AI安全峰会所通过的布莱切利宣言，是首份就“前沿AI（frontier AI）”潜在风险达成国际共识的文件。此后，2024年3月联合国大会一致通过首份关于AI的决议，后续讨论的必要性日益增大，大韩民国遂担任下一届会议的共同主办国。
三大核心原则
首尔宣言提出 安全（Safety）、创新（Innovation）、包容（Inclusivity） 作为AI治理的三大支柱。
1. 安全：加强针对尖端AI模型的风险识别、评估与监测的国际合作。构建AI安全研究机构之间的网络。
2. 创新：在不损害安全的前提下促进AI技术开发与投资，为初创企业和研究人员营造开放生态。
3. 包容：缩小AI接入差距（access gap），支持发展中国家的能力建设与人才培养。最大限度减少基于性别、地区、阶层的差异化影响。
首尔意向书（Seoul Statement of Intent）
除峰会宣言外，还发布了由各国AI安全研究机构代表签署的《关于AI安全科学的国际合作意向书》。这是围绕AI安全性评估方法论、风险阈值（threshold）、红队测试等开展联合研究与信息共享的机构间合作框架。美国、英国、日本、法国、德国、加拿大、澳大利亚、新加坡等参与其中，此后发展为“国际AI安全研究所网络”。
企业自愿承诺
主要全球AI企业也配合宣言发布了自愿安全承诺。内容涵盖：前沿模型开发商公开风险管理框架，在模型发布前开展安全性评估，并在发生事故时透明公开。
主要参与国及机构
大韩民国、英国、美国、日本、法国、德国、意大利、加拿大、澳大利亚、新加坡、印度、巴西等30余个国家，以及联合国（UN）、经济合作与发展组织（OECD）、欧洲联盟（EU）等国际组织参与其中。科技企业方面，主要大型科技公司与AI初创企业代表出席。
后续措施
首尔宣言之后，2025年在法国巴黎举行了第三届AI行动峰会（AI Action Summit），各国持续推进AI安全研究所之间的合作、监管沙盒以及AI影响评估制度的引入。首尔峰会的核心成果在于提出了将“安全”议题与“创新”及“包容”相结合的均衡框架，并建立了机构间的实质性合作渠道。
最新动向
进入2024~2025年，首尔宣言的后续讨论沿三个方向展开。第一，国际AI安全研究所网络已启动实质性的联合研究（模型评估标准、风险情景共享）。第二，各国在制定AI基本法与监管法规的同时，正推进将宣言原则转化为国内法的工作，EU AI法的实施与韩国AI基本法的讨论即为代表。第三，AI安全与军事、安全议题相结合，“AI治理”作为外交议程浮出水面，联合国、OECD等多边体系中的后续规范讨论持续进行。但也有意见指出，具有约束力的国际规范缺位、发达国家与发展中国家之间的技术差距、安全竞争等局限依然存在。
相关主题
- [[AI首尔峰会]]
- [[布莱切利宣言]]
- [[人工智能安全性]]
- [[AI治理]]
- [[欧盟AI法]]