서울선언
개요
서울선언(Seoul Declaration)은 2024년 5월 21일 대한민국 서울에서 개최된 AI 서울 정상회의(AI Seoul Summit)에서 채택된 인공지능(AI) 안전·혁신·포용에 관한 국제 선언이다. 영국이 주도한 2023년 블레츨리 선언(Bletchley Declaration)의 후속 논의로, AI의 급속한 발전에 대응해 각국이 공동의 안전 원칙과 국제 협력 체계를 마련하는 것을 목표로 한다. 대한민국과 영국이 공동 의장국을 맡았으며, 30여 개국 정상·장관급 인사와 주요 AI 기업, 국제기구 대표가 참여했다.
주요 내용
추진 배경
2023년 11월 영국 블레츨리 파크에서 열린 제1차 AI 안전 정상회의에서 채택된 블레츨리 선언은 '프런티어 AI(frontier AI)'의 잠재적 위험에 대한 국제적 인식을 공유하는 첫 문서였다. 이후 2024년 3월 유엔 총회가 AI에 관한 최초의 결의안을 만장일치로 채택하면서, 후속 논의의 필요성이 커졌고 대한민국이 차기 회의의 공동 주최국을 맡게 되었다.
3대 핵심 원칙
서울선언은 안전(Safety), 혁신(Innovation), 포용(Inclusivity)을 AI 거버넌스의 세 축으로 제시한다.
1. 안전: 첨단 AI 모델의 위험 식별, 평가, 모니터링을 위한 국제 협력 강화. AI 안전 연구기관 간 네트워크 구축.
2. 혁신: 안전을 저해하지 않는 범위에서 AI 기술 개발과 투자를 촉진하고, 스타트업과 연구자에게 열린 생태계를 조성.
3. 포용: AI 격차(access gap)를 줄이고, 개발도상국의 역량 강화와 인재 양성을 지원. 성별·지역·계층에 따른 차별적 영향 최소화.
서울 의향서(Seoul Statement of Intent)
정상 선언과 별도로, 각국 AI 안전 연구기관 대표들이 서명한 'AI 안전 과학에 관한 국제 협력 의향서'가 발표되었다. 이는 AI 안전성 평가 방법론, 위험 임계치(threshold), 레드팀 테스트 등에 관한 공동 연구와 정보 공유를 위한 기관 간 협력 프레임워크다. 미국, 영국, 일본, 프랑스, 독일, 캐나다, 호주, 싱가포르 등이 참여했으며, 이후 '국제 AI 안전 연구소 네트워크'로 발전했다.
기업 자발적 약속
주요 글로벌 AI 기업들도 선언에 맞춰 자발적 안전 약속을 발표했다. 프런티어 모델 개발사들이 위험 관리 프레임워크를 공개하고, 모델 출시 전 안전성 평가를 수행하며, 사고 발생 시 투명하게 공개하겠다는 내용이 담겼다.
주요 참여국 및 기관
대한민국, 영국, 미국, 일본, 프랑스, 독일, 이탈리아, 캐나다, 호주, 싱가포르, 인도, 브라질 등 30여 개국과 유엔(UN), 경제협력개발기구(OECD), 유럽연합(EU) 등 국제기구가 참여했다. 기술 기업으로는 주요 빅테크와 AI 스타트업 대표들이 참석했다.
후속 조치
서울선언 이후 2025년 프랑스 파리에서 제3차 AI 행동 정상회의(AI Action Summit)가 열렸고, 각국은 AI 안전 연구소 간 협력과 규제 샌드박스, AI 영향 평가 제도 도입을 이어갔다. 서울 정상회의의 핵심 성과는 '안전' 담론을 '혁신' 및 '포용'과 결합한 균형적 프레임을 제시하고, 기관 간 실질적 협력 채널을 만든 데 있다.
최신 동향
2024~2025년 들어 서울선언의 후속 논의는 세 방향으로 전개되고 있다. 첫째, 국제 AI 안전 연구소 네트워크가 실질적 공동 연구(모델 평가 표준, 위험 시나리오 공유)를 시작했다. 둘째, 각국이 AI 기본법·규제를 제정하면서 선언의 원칙을 국내법으로 전환하는 작업이 진행 중이며, EU AI법 시행과 한국의 AI 기본법 논의가 대표적이다. 셋째, AI 안전과 군사·안보 이슈가 결합되며 'AI 거버넌스'가 외교 의제로 부상했고, 유엔·OECD 등 다자 체계에서 후속 규범 논의가 이어지고 있다. 다만 구속력 있는 국제 규범 부재, 선진국과 개발도상국 간 기술 격차, 안보 경쟁 등의 한계도 지적된다.
관련 주제
- [[AI 서울 정상회의]]
- [[블레츨리 선언]]
- [[인공지능 안전성]]
- [[AI 거버넌스]]
- [[유럽연합 AI법]]