AI 서울 정상회의, AI 기업들 새로운 안전 약속 위험 관리 협력 강화

2024년 5월 21일, 세계 지도자들은 인공지능(AI)의 잠재적 위험을 논의하고 혜택과 혁신을 촉진할 방법을 모색하기 위해 가상으로 모였습니다. AI 서울 정상회의는 2023년 11월 영국 블렛클리 파크(Bletchley Park)에서 열린 첫 번째 AI 안전 정상회의의 후속 회의로, 참가국들은 AI의 급격한 발전이 초래할 수 있는 잠재적 "파국적" 위험을 함께 관리하기로 합의한 바 있습니다.

1. AI 기업들의 새로운 안전 약속

Google, Meta, OpenAI를 포함한 주요 인공지능 기업들은 이번 미니 정상회의에서 AI를 안전하게 개발하기 위한 새로운 자발적 안전 약속을 발표했습니다. 세계 지도자들은 AI 기술의 연구와 테스트를 진전시키기 위해 공공 지원을 받는 안전 연구소 네트워크를 구축하는 데 합의했습니다.

2. 주요 기업들의 자발적 안전 약속

Google, Meta, OpenAI, Amazon, Microsoft, Samsung, IBM, xAI, Mistral AI (프랑스), Zhipu.ai (중국), G42 (아랍에미리트)

이들 기업은 AI 모델의 가장 극단적인 위험을 제어하지 못할 경우 최신 시스템을 중단하는 것을 포함하여 다양한 안전 약속을 했습니다.

3.  AI 서울정상회의 개요

이번 이틀간의 회의는 영국 블렛클리 파크에서 열린 첫 번째 AI 안전 정상회의의 후속 회의로, 기술이 일상 생활과 인류에게 미칠 수 있는 잠재적 위험에 대한 두려움 속에서 정부와 글로벌 기관들이 AI 기술에 대한 가드레일을 설계하기 위한 노력이 증가하고 있는 가운데 열렸습다. 영국 정부의 성명에 따르면, 10개국과 유럽연합의 지도자들이 AI 안전에 대한 공통의 이해를 형성하고 AI 연구에 대한 작업을 조율하기로 합의했습니다. 이 안전 연구소 네트워크는 블렛클리 회의 이후 영국, 미국, 일본, 싱가포르에서 이미 설립된 연구소들을 포함할 것입니다.

유엔 사무총장 안토니오 구테흐스(Antonio Guterres)는 개막 연설에서 "우리는 허위 정보에서 대량 감시, 치명적인 자율 무기체계의 전망에 이르기까지 생명을 위협하는 새로운 위험을 목격하고 있다"고 말했습니다. 그는 AI의 힘이 소수의 사람들에 의해 통제되거나, 더 나아가 인간의 이해를 넘어선 알고리즘에 의해 통제되는 디스토피아적 미래로 무심코 걸어 들어가서는 안 된다고 강조했습니다.

4. 서울 선언과 국제 협력

이번 회의에서는 리시 수낙(Rishi Sunak) 영국 총리와 윤석열 대한민국 대통령이 주재한 가상 회의에서 AI 안전, 혁신 및 포용에 대해 논의했습니다. 이들은 국제 협력을 강화하고 AI가 주요 글로벌 문제를 해결하며 인권을 유지하고 디지털 격차를 해소하는 데 기여하는 것을 목표로 하는 서울 선언을 채택했습니다.

"AI는 매우 흥미로운 기술이며, 영국은 지난해 세계 최초의 AI 안전 정상회의를 개최하여 그 잠재력을 다루는 글로벌 노력을 주도해 왔다"며, "그러나 그 이점을 얻으려면 AI가 안전하다는 것을 확실히 해야 한다"고 리시 수낙 총리는 말했다.

이 회의는 또한 16개의 AI 기업이 서명한 세계 최초의 AI 안전 약속의 후속 조치로, 이들 기업은 위험 완화가 불가능할 경우 모델이나 시스템의 개발이나 배포를 중단할 것을 약속했습니다. 이는 Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, OpenAI, Samsung Electronics, Technology Innovation Institute, xAI, Zhipu.ai 등의 기업들이 포함되어 있습니다.

5. 향후 전망과 과제

세계 각국 정부는 AI 기술의 빠른 발전과 일상 생활의 많은 측면에 변화를 가져올 잠재력에 대한 규제를 마련하기 위해 분주히 움직이고 있습니다. 교육, 직장, 저작권 및 프라이버시에 이르기까지 AI의 발전이 일자리를 없애거나 허위 정보를 퍼뜨리거나 새로운 생물무기를 만드는 데 사용될 수 있다는 우려가 있습니다.

이번 주 회의는 AI 거버넌스에 대한 여러 노력 중 하나로, 유엔 총회는 AI 시스템의 안전한 사용에 관한 첫 번째 결의를 승인했으며, 미국과 중국은 최근 AI에 관한 첫 고위급 회담을 열었다. 유럽 연합의 세계 최초 AI법(AI Act)은 2024년 말 발효될 예정입니다.

AI 서울 정상회의는 AI 기술의 안전한 발전을 위한 글로벌 협력의 중요한 전환점이 될 것이며, AI가 인류의 미래에 긍정적인 영향을 미치도록 하기 위한 노력에 중요한 역할을 할 것입니다. AI 기업들과 정부 간의 협력은 기술 발전의 이점을 극대화하면서도 그 위험을 최소화하는 데 필수적입니다.

6. 결론

AI 서울 정상회의는 AI의 안전한 개발과 사용을 위해 중요한 이정표를 세웠습니다. 세계 지도자들과 주요 AI 기업들은 공공의 안전을 위해 협력하고, 기술의 위험을 관리하며, AI의 혜택을 최대한 활용하는 데 동의했습니다. 앞으로의 과제는 이러한 약속을 실제로 구현하고, 지속적인 대화와 협력을 통해 AI의 안전한 발전을 보장하는 것입니다. AI 기술이 인류에게 가져올 변화를 긍정적으로 만들기 위한 노력이 계속될 것입니다.

AI 서울 정상회의, AI 기업들 새로운 안전 약속 위험 관리 협력 강화

---

https://apnews.com/article/south-korea-seoul-ai-summit-uk-2cc2b297872d860edc60545d5a5cf598

https://techcrunch.com/2024/05/21/in-seoul-summit-heads-of-states-and-companies-commit-to-ai-safety/