AI 석학 제프리 힌튼 '언젠가 기술이 인류를 장악할 수 있다'고 우려

제프리 힌튼(Geoffrey Hinton)은 인공지능의 이점에 대해 찬사를 보내면서도 자율 전장 로봇, 가짜 뉴스, 고용, 치안 분야의 의도치 않은 편견 등에 대해 경종을 울립니다.

'인공지능의 대부'로 불리는 제프리 힌튼은 방송에서 '60분'과 함께 인공지능 기술이 앞으로 인류에게 미칠 좋은 점과 나쁜 점을 분석했습니다.

힌튼은 영국의 컴퓨터 과학자이자 인지 심리학자로, AI의 프레임워크라고 불리는 인공 신경망에 대한 연구로 가장 잘 알려져 있습니다. 그는 AI의 위험성에 대한 우려를 이유로 올해 5월에 퇴사하기 전까지 10년간 구글에서 근무했습니다.

다음은 제프리 힌튼이 60분 인터뷰어 스콧 펠리에게 한 말입니다.

인텔리전스

펠리는 인공지능에 대한 최근의 우려를 강조하며 코너를 시작한 후, 인류는 인공지능이 무엇을 하고 있는지 알고 있는지 질문하며 힌튼과의 Q&A를 시작했습니다.

힌튼은 "아니요"라고 대답했습니다. "사상 처음으로 우리보다 더 지능적인 사물이 존재하는 시대로 접어들고 있다고 생각합니다."

힌튼은 가장 진보된 AI 시스템은 이해할 수 있고, 지능적이며, 자신의 경험을 바탕으로 의사 결정을 내릴 수 있다고 믿는다며 이 말을 더 확장했습니다. AI 시스템이 의식이 있느냐는 질문에 힌튼은 현재로서는 자의식이 부족하기 때문에 아마도 그렇지 않을 수 있지만 "시간이 지나면" 그 날이 올 것이라고 말했습니다. 그리고 그는 결과적으로 인간이 지구상에서 두 번째로 지능이 높은 존재가 될 것이라는 펠리의 주장에 동의했습니다.

AI 시스템이 인간의 마음보다 더 잘 학습할 수 있다는 힌튼의 아이디어가 떠오른 후, 펠리는 AI는 사람이 설계한 것이기 때문에 어떻게 그럴 수 있는지 궁금해했는데, 힌튼이 이를 바로잡았습니다.

"아니요, 그렇지 않습니다. 우리가 한 일은 학습 알고리즘을 설계한 것입니다. 이는 진화의 원리를 설계하는 것과 비슷합니다."라고 힌튼은 말합니다. "하지만 이 학습 알고리즘이 데이터와 상호 작용하면 일을 잘 처리하는 복잡한 신경망을 생성합니다. 하지만 우리는 이 신경망이 어떻게 이러한 작업을 수행하는지 정확히 이해하지 못합니다."

장점

힌튼은 의료 이미지를 인식하고 이해하며 약물을 설계하는 등의 작업을 수행할 수 있는 AI의 엄청난 이점이 이미 의료 분야에서 일부 나타나고 있다고 말했습니다. 이것이 힌튼이 자신의 작업을 긍정적으로 바라보는 주된 이유 중 하나입니다.

 

인공지능과 머신러닝으로 바이오 제약의 품질을 개선하는 방법

의료 생명 과학 분야에서 주목해야 할 생성형 AI 스타트업

단점

힌튼은 AI 시스템이 스스로 학습하는 방식에 대해 "우리는 이 시스템이 무엇을 하는지 대략적으로 잘 알고 있습니다."라고 말합니다. "하지만 정말 복잡해지면 사람의 뇌에서 무슨 일이 일어나는지 아는 것 이상으로 실제로 무슨 일이 일어나고 있는지 알 수 없습니다."

힌튼은 시스템이 더 똑똑해짐에 따라 발생할 수 있는 큰 잠재적 위험을 한 가지 지적하면서 이러한 우려는 AI를 둘러싼 우려의 빙산의 일각에 불과하다고 말했습니다.

"시스템의 통제를 벗어날 수 있는 방법 중 하나는 스스로 컴퓨터 코드를 작성하여 스스로를 수정하는 것입니다. 이는 우리가 심각하게 걱정해야 할 부분입니다."라고 그는 말합니다. 현재 SNS에서 필터링된 정보 속에 판단력을 흐려져가는 인류에게 인공지능의 리터러시의 중요성을 강조합니다.

힌튼은 AI가 유명 소설 작품, 선거 미디어 주기, 그 사이의 모든 것에서 점점 더 많은 정보를 수집함에 따라 사람을 조종하는 데 점점 더 능숙해질 것이라고 덧붙였습니다.

힌튼은 "5년 후에는 우리보다 더 나은 추론을 할 수 있을지도 모릅니다."라고 말했습니다.

이는 자율 전장 로봇, 가짜 뉴스, 고용과 치안에서 의도하지 않은 편견과 같은 위험을 의미합니다. 힌튼은 "과거에 하던 일을 이제는 기계가 대신하기 때문에 실직하고 가치를 인정받지 못하는 계층이 생겨날 것"이라고 말했습니다.

최악의 상황

설상가상으로 힌튼은 안전을 완전히 보장할 수 있는 방법이 보이지 않는다고 말했습니다.

"우리는 지금 한 번도 해보지 않은 일을 처리해야 하는 불확실성이 큰 시기로 접어들고 있습니다. 일반적으로 완전히 새로운 것을 처음 다룰 때는 실수하기 마련입니다. 그리고 우리는 이런 일들을 잘못 처리할 여유가 없습니다."

언젠가 AI가 인류를 장악할 수도 있다는 뜻이냐는 펠리의 질문에 힌튼은 "네, 그럴 가능성이 있습니다. 꼭 그렇게 될 거라는 말은 아닙니다. 인공지능이 인류를 정복하고 싶어하는 것을 막을 수 있다면 좋겠죠. 하지만 인공지능이 원하는 것을 막을 수 있을지는 확실하지 않습니다."

우리가 해야할 일

힌튼은 인류가 이러한 기술을 더 개발할지, 개발한다면 어떻게 "스스로를 보호"해야 할지 결정해야 하는 전환점이 될 수 있다고 말했습니다.

"제 주된 메시지는 다음에 일어날 일에 대해 엄청난 불확실성(enormous uncertainty)이 있다는 것입니다."라고 힌튼은 말했습니다. "이러한 것들은 우리가 다음에 일어날 일에 대해 열심히 생각해야 한다는 것을 이해하고 있으며, 우리는 단지 모를 뿐입니다."

펠리는 힌튼이 AI의 선한 잠재력(potential for good)을 고려할 때 자신이 한 일에 대해 후회하지 않지만, 지금은 더 많은 실험을 통해 이해하고 특정 규제를 부과하며 군용 로봇 사용을 금지하는 세계 조약이 필요한 때라고 말했다고 보도했습니다.

https://www.yahoo.com/entertainment/ai-geoffrey-hinton-60-minutes-fears-technology-take-over-humanity-073704715.html

딜로이트, 인공지능(AI) 활용서 : 6대 산업별 활용 사례