AI 서울 정상회의, 안전·혁신·포용의 3대 원칙으로 글로벌 리더십 확립

2024년 5월 21일부터 22일까지 개최된 'AI 서울 정상회의'는 AI 안전성 정상회의의 연장선에서 열렸습니다. 이번 회의는 안전뿐만 아니라 혁신적이고 포용적인 미래를 주제로 '안전, 혁신, 포용'의 AI 거버넌스 3대 목표를 국제사회에 제시했습니다.

1. AI 안전성과 신뢰성 확보를 위한 국제사회의 노력

AI 안전성과 지속 가능성의 중요성

AI 기술이 빠르게 발전하고 우리의 일상에 깊숙이 스며들면서 AI의 안전성과 지속 가능성을 보장하기 위한 새로운 규범과 거버넌스의 필요성이 증대되고 있습니다. 이와 같은 배경에서 국제사회는 AI의 위험성을 최소화하고 혜택을 극대화하기 위해 적극적으로 논의에 참여하고 있습니다.

국제사회의 이니셔티브

 2023년 G7 히로시마 AI 프로세스는 AI 개발 기업과 이용자가 준수해야 할 포괄적인 원칙을 제시합니다. 이 프로세스는 AI 기술의 책임 있는 개발과 사용을 촉진하기 위해 마련되었으며, 국제사회에서 큰 반향을 일으켰습니다.

2024년 유엔 AI 결의안은 부적절한 AI 개발의 위험성을 경고하고 디지털 격차 해소 등을 촉구합니다. 유엔 결의안은 AI 기술의 부정적 영향을 줄이고 전 세계적으로 공평한 혜택을 제공하기 위한 노력의 일환으로 제정되었습니다.

AI 안전성 정상회의와 블레츨리 선언

주요 28개국이 모여 2023년 11월 영국에서 개최한 'AI 안전성 정상회의'에서는 안전한 AI 사용에 대한 합의안을 마련하고 '블레츨리 선언'을 발표했습니다. 이 회의는 AI 기술의 안전성을 높이고 신뢰성을 확보하기 위한 중요한 전환점이 되었습니다.

블레츨리 공원은 제2차 세계대전 당시 독일의 암호를 해독하던 일급 비밀기지로 현대 컴퓨팅의 발상지를 상징하는 지역입니다. 이러한 상징적인 장소에서 발표된 블레츨리 선언은 AI 안전과 관련된 공동 대응 및 협력에 합의하는 내용을 담고 있습니다.

한국의 역할과 기대

이 회의에서 한국은 차기 회의 의장국으로서 적극적으로 추가 의제를 발굴하고 국제규범 형성 및 거버넌스 구축에 리더십을 발휘할 것을 기대받고 있습니다. 한국은 AI 기술의 발전과 더불어 안전성과 신뢰성을 확보하기 위한 국제사회의 노력에 중요한 역할을 담당하게 될 것입니다.

2. AI 서울 정상회의: 안전, 혁신, 포용의 3대 목표 제시

혁신적이고 포용적인 미래로

정상 세션: AI의 위험 요소 최소화 및 잠재력 극대화

5월 21일 정상 세션은 '혁신적이고 포용적인 미래로'를 기반으로 윤석열 대통령과 리시 수낙 총리 주재 하에 저녁 8시 30분부터 90분간 화상 회의 방식으로 진행되었습니다. 이 회의에서는 AI의 위험 요소를 최소화하면서 자유로운 연구개발을 통해 잠재력을 최대한 구현하고, 이를 통해 창출된 혜택을 인류 모두가 공평하게 누릴 수 있는 방안을 논의했습니다.

주요 참석자

이번 회의에는 G7과 싱가포르, 호주 정상들 외에도 국제연합(UN), 유럽연합(EU), 경제협력개발기구(OECD) 등의 수장을 비롯해 슈미트 전 구글 CEO와 삼성전자 회장, 네이버 설립자, 해외 빅테크 기업의 대표들이 참석했습니다. 이들은 각국 정상들과 함께 AI가 내재한 위험성을 줄이는 동시에 그 긍정적 가능성을 최대한 활용하는 방안을 논의했습니다.

서울 선언: AI 안전, 혁신, 포용의 3대 목표

서울 선언의 발표

회의 직후 발표된 '서울 선언'은 AI 안전뿐만 아니라 혁신과 포용이 AI 거버넌스의 3대 목표임을 담은 정상급 합의 문서입니다. 이 선언은 각국 정상들이 AI 기술의 발전 방향과 거버넌스의 목표를 명확히 설정한 중요한 문서로서, 국제 사회에 큰 영향을 미칠 것으로 기대됩니다.

서울 선언의 주요 내용

서울 선언은 다음과 같은 주요 내용을 포함하고 있습니다:

• ● 상호 운용성을 지닌 보안 조치의 중요성: AI 시스템의 안전성을 보장하기 위해 각국이 협력하여 상호 운용 가능한 보안 조치를 개발하고 채택할 필요가 있습니다.
  ● AI 안전연구소 간 네트워크 확대: 각국의 AI 안전연구소가 네트워크를 형성하여 정보를 공유하고 협력하는 것이 중요합니다.
  ● 글로벌 협력 촉진: AI 기술의 안전하고 책임 있는 발전을 위해 국제 사회의 협력이 필수적입니다.
  ● 안전·혁신·포용적인 AI 생태계 조성: AI 기술이 모든 인류에게 혜택을 줄 수 있도록 포용적이고 혁신적인 생태계를 조성하는 것이 목표입니다.
  ● 정책 개발 및 거버넌스 구축 의지: 각국은 AI 기술의 책임 있는 발전을 위한 정책을 개발하고, 이를 지원하는 거버넌스를 구축할 의지를 명확히 밝혔습니다.

3. 서울 선언의 부속서와 AI 안전 서약

서울 의향서

서울 선언의 부속서로 'AI 안전 과학 국제협력을 위한 서울 의향서'도 채택되었습니다. 이 의향서는 AI 안전연구소 간의 네트워크 구축과 AI 안전에 관한 과학적 접근방식을 포함하고 있습니다. 이를 통해 각국의 연구소들이 긴밀히 협력하여 AI 기술의 안전성을 강화하고, 글로벌 수준에서 AI 안전 과학을 발전시키는 데 중요한 역할을 하게 됩니다.

AI 안전 서약

글로벌 AI 기업들은 자발적으로 AI 위험을 예방하는 데 앞장서는 'AI 안전 서약'에 합의했습니다. 이 서약은 기업들이 AI 기술 개발과 활용 과정에서 안전과 윤리를 최우선으로 고려하고, 지속적으로 AI의 위험 요소를 최소화하기 위해 노력할 것을 다짐하는 내용을 담고 있습니다.

3. 장관 세션: 글로벌 협력 방안 논의

주요 참석자와 논의 주제

5월 22일 한국과학기술연구원(KIST)에서 열린 장관 세션에서는 이종호 과학기술정보통신부 장관과 미셸 도넬란 영국 혁신기술부 장관이 공동의장으로 나서 AI 안전, 혁신, 포용을 기반으로 하는 글로벌 협력 방안을 논의했습니다. 이 회의에는 미국, 일본, 프랑스, 독일, 캐나다, 호주, 유럽연합, UN 등 21개 대표단과 국내외 주요 기업 및 학계·시민사회 인사들이 참석했습니다.

주요 논의 내용

양국 대표는 2023년 블레츨리에서 열린 AI 안전성 정상회의 이후에도 AI 모델의 기능이 향상되었고, 이에 대응해 AI 안전을 보장하기 위한 국제사회의 노력이 계속되고 있음을 강조했습니다. 이 회의에서는 AI 안전 연구소의 네트워킹 등 글로벌 협력 방안과 AI의 잠재적 부작용에 대한 회복 탄력성 확보 방안을 깊이 있게 논의했습니다.

4. 디지털 권리장전과 새로운 디지털 질서 정립 추진계획

디지털 권리장전 발표와 그 배경

AI 서울 정상회의 개최 당일 오전, 제22회 국무회의에서는 관계부처 합동으로 마련한 '새로운 디지털 질서 정립 추진계획'이 공개되었습니다. 이 계획은 윤석열 대통령의 디지털 구상을 담은 '디지털 권리장전'을 구체적인 정책으로 구현하기 위한 범부처 계획입니다. 디지털 심화 시대를 맞아 새로운 질서를 정립하고 디지털 심화 쟁점을 신속히 해결하기 위한 취지로 마련된 이 계획은 디지털 혁신과 포용성 강화를 목표로 하고 있습니다.

디지털 권리장전의 주요 내용

디지털 권리장전은 디지털 심화 시대에 맞춘 국가적 차원의 기준과 원칙을 제시하며, 보편적 디지털 질서 규범의 기본 방향을 담고 있습니다. 전문과 총 6개 장, 28개 조로 구성된 이 권리장전은 다음과 같은 주요 원칙들을 포함합니다:

• 자유: 디지털 환경에서의 자유로운 표현과 정보 접근 보장
• 공정: 디지털 기술과 서비스의 공정한 이용 보장
• 안전: 디지털 환경에서의 개인정보 보호와 사이버 보안 강화
• 혁신: 디지털 기술 발전을 위한 지원과 연구개발 촉진
• 연대: 디지털 격차 해소와 포용적 성장 도모

새로운 디지털 질서 정립 추진계획

추진계획의 목적 : 새로운 디지털 질서 정립 추진계획은 디지털 권리장전의 철학과 원칙을 구체적인 정책으로 실현하기 위해 마련되었습니다. 디지털 심화 시대에 발생하는 다양한 쟁점들을 신속히 해결하고, 디지털 기술의 안전성과 신뢰성을 확보하는 데 중점을 두고 있습니다.

주요 추진 과제 : 이 계획은 AI 안전성, AI 저작권 법·제도 정비 등 디지털 심화 시대에 해결해야 하는 총 52개의 쟁점을 발굴했습니다. 이 중 특히 중요하거나 시급한 과제들은 다음과 같습니다:

• AI 안전성 확보: AI 기술의 안전성과 신뢰성을 보장하기 위한 정책 개발 및 시행
• AI 저작권 법·제도 정비: AI가 생성한 콘텐츠의 저작권 보호와 관련된 법·제도 정비
• 디지털 접근성 제고: 모든 국민이 디지털 기술과 서비스를 공평하게 이용할 수 있도록 접근성 향상
• 사이버 보안 강화: 디지털 환경에서의 사이버 위협과 범죄에 대응하기 위한 보안 강화
• 디지털 격차 해소: 디지털 기술의 혜택을 모든 국민이 고르게 누릴 수 있도록 지원

구체적인 실행 계획

• AI 안전성 확보 : AI 기술이 일상생활과 산업 전반에 깊숙이 통합됨에 따라, AI의 안전성과 신뢰성 확보는 최우선 과제로 떠오르고 있습니다. 이를 위해 정부는 AI 안전성 연구소의 설립을 추진하고, 글로벌 협력 네트워크를 강화하며, AI 기술의 책임 있는 개발과 사용을 위한 가이드라인을 마련할 계획입니다.
• AI 저작권 법·제도 정비 : AI가 생성한 콘텐츠의 저작권 문제는 디지털 시대의 새로운 도전 과제입니다. 정부는 AI 저작권과 관련된 법적 공백을 메우기 위해 관련 법률을 정비하고, AI 기술의 발전을 저해하지 않으면서도 창작자의 권리를 보호할 수 있는 균형 잡힌 정책을 마련할 것입니다.
• 디지털 접근성 제고 : 디지털 접근성 향상은 디지털 포용성을 강화하는 핵심 요소입니다. 정부는 장애인, 고령자 등 디지털 소외 계층이 디지털 기술과 서비스를 편리하게 이용할 수 있도록 다양한 지원책을 마련하고, 디지털 교육 프로그램을 확대할 계획입니다.
• 사이버 보안 강화 : 디지털 환경에서의 개인정보 보호와 사이버 보안 강화는 디지털 권리장전의 핵심 원칙 중 하나입니다. 정부는 사이버 보안 인프라를 강화하고, 국가적 차원의 사이버 보안 전략을 수립하여 사이버 위협에 대응할 것입니다.
• 디지털 격차 해소 : 디지털 격차 해소를 위해 정부는 농어촌 지역과 저소득층을 대상으로 디지털 인프라를 확충하고, 디지털 역량 강화를 위한 교육과 훈련 프로그램을 운영할 것입니다. 이를 통해 모든 국민이 디지털 기술의 혜택을 고르게 누릴 수 있도록 할 것입니다.

5. 글로벌 AI 거버넌스 구축을 위한 노력

AI 서울 정상회의는 '서울 선언' 등 정상 간 첫 합의를 도출하고 안전에서 혁신과 포용까지 의제를 확대하면서 포괄적인 AI 거버넌스를 논의하는 유일한 정상급 플랫폼으로 자리매김했습니다. 서울 선언, 서울 의향서, AI 안전 서약 등 원칙들을 전 세계가 함께 공유할 수 있도록 논의 장을 확대하고, 효용성과 실효성을 확보하기 위해 최선을 다할 필요가 있습니다.

글로벌 주요국의 윤리 규범을 지속 모니터링하는 동시에 우리 사회와 경제에 적합한 실효성 있는 규칙 논의를 이어가며 AI의 위험과 부정적 영향을 최소화하는 데에 만전을 기해야 합니다. 디지털 권리장전 등 우리 정부가 마련한 디지털 규범이 글로벌 규범의 방향성을 갖추어 나갈 수 있도록 후속 작업과 논의를 지속적으로 이어가야 합니다.

AI 서울 정상회의