오픈AI, GPT-4o 스칼렛 요한슨 목소리 모방 창작자의 권리 음성 페이크

2024년 5월 20일 할리우드 배우 스칼렛 요한슨(Scarlett Johansson)과 오픈AI(OpenAI) 간의 목소리 논란이 큰 화제를 모으고 있습니다. 요한슨 씨는 오픈AI의 새로운 AI 음성 소프트웨어 '스카이(Sky)'가 자신의 목소리를 무단으로 도용했다고 주장하며, 이에 대한 법적 대응을 예고했습니다. 이번 사건은 AI와 인간 창작자의 권리 보호 문제를 다시 한번 부각시키고 있습니다. 특히 음성 딥페이크 기술이 가져올 윤리적, 법적 문제들에 대한 경각심도 높아지고 있습니다.

1. 사건의 배경

오픈AI의 요청과 요한슨 씨의 거절

스칼렛 요한슨 씨는 2023년 9월, 오픈AI의 CEO 샘 올트먼(Sam Altman)으로부터 새로운 AI 시스템 'ChatGPT 4.0'의 목소리를 제공해달라는 요청을 받았습니다. 올트먼 CEO는 요한슨 씨의 목소리가 AI 시스템과 인간 사용자 간의 교감을 증진시키고, 기술과 창작의 융합을 이끌어낼 수 있다고 설명하며, 이를 통해 사용자들이 AI 기술에 대해 더 큰 신뢰를 가질 수 있을 것이라고 설득했습니다.

요한슨 씨는 이러한 제안을 진지하게 검토했지만, 결국 개인적인 사유로 인해 이를 거절하기로 결정했습니다. 그녀는 자신의 목소리가 AI 시스템에 사용될 경우 발생할 수 있는 여러 윤리적, 법적 문제를 우려했고, 자신의 목소리가 무단으로 사용될 가능성에 대해 경계심을 가졌습니다.

'스카이' 목소리 공개와 논란의 시작

그러나 2024년 5월 13일, 오픈AI가 공개한 'ChatGPT 4.0'의 음성 옵션 중 하나인 '스카이'가 요한슨 씨의 목소리와 매우 흡사하다는 지적이 나오면서 논란이 시작되었습니다. '스카이'의 목소리는 놀라울 정도로 요한슨 씨의 특징적인 음성과 유사했으며, 이는 일반 대중뿐만 아니라 전문가들 사이에서도 즉각적인 주목을 받았습니다.

요한슨 씨의 반응과 법적 대응 예고

요한슨 씨는 이에 대해 강력하게 반발하며, 자신이 오픈AI의 제안을 분명히 거절했음에도 불구하고, '스카이'의 목소리가 자신의 목소리를 모방한 것이라고 주장했습니다. 그녀는 가까운 친구들과 가족, 그리고 언론 매체조차도 '스카이'의 목소리가 자신의 목소리와 너무나도 유사하다는 점을 지적했다고 밝혔습니다.

이러한 상황에서 요한슨 씨는 오픈AI가 자신의 목소리를 무단으로 도용한 것에 대해 법적 대응을 예고하며, AI 기술의 발전이 개인의 권리와 프라이버시를 침해할 수 있는 위험성을 경고했습니다. 이는 AI와 창작자 간의 경계 문제를 다시 한번 부각시키는 계기가 되었으며, AI 음성 합성 기술의 윤리적 사용에 대한 논의가 활발히 이루어지게 되었습니다.

2. 요한슨 씨의 주장과 오픈AI의 대응

요한슨 씨의 주장

스칼렛 요한슨 씨는 CNBC와의 인터뷰를 통해 자신의 목소리와 너무 흡사한 '스카이'의 목소리에 충격과 분노를 느꼈다고 밝혔습니다. 요한슨 씨는 "공개된 데모를 들었을 때, 가까운 친구들과 뉴스 매체조차 구분하지 못할 정도로 내 목소리와 너무 흡사해 충격을 받았다"고 말했습니다. 그녀는 오픈AI 측이 자신의 목소리 사용 요청을 두 차례에 걸쳐 거절했음을 강조하며, 이러한 유사성은 명백히 의도적인 모방이라고 주장했습니다. 요한슨 씨는 "내가 분명 거절 의사를 밝혔음에도 불구하고, '스카이'의 목소리가 내 목소리와 유사하다는 것은 도저히 믿을 수 없는 일"이라고 덧붙였습니다.

요한슨 씨의 법적 대응

스칼렛 요한슨 씨는 오픈AI와의 분쟁 해결을 위해 법적 대응에 나설 것임을 밝혔습니다. 요한슨 씨는 오픈AI의 '스카이' 목소리 생성 과정에 대한 투명한 설명을 요구하며, 샘 올트먼과 오픈AI 측에 두 차례에 걸쳐 편지를 보냈습니다. 요한슨 씨는 이 편지에서 '스카이' 목소리가 자신의 목소리와 유사한 이유에 대한 상세한 설명을 요구했으나, 오픈AI가 이에 대해 충분한 답변을 제공하지 않았다고 주장했습니다.

요한슨 씨는 "오픈AI가 명확하고 투명한 설명을 제공하지 않음으로써, 나는 법적 대응을 통해 진실을 밝히고 내 권리를 보호하기로 결정했다"고 말했습니다. 이에 따라 요한슨 씨는 변호사를 선임해 법적 절차를 밟을 예정입니다. 요한슨 씨는 자신의 목소리가 무단으로 도용된 것에 대해 강력한 법적 조치를 취할 것이며, 이 사건이 AI 기술의 윤리적 사용에 대한 경각심을 높이는 계기가 되기를 바라고 있습니다.

오픈AI의 대응

오픈AI는 '스카이'의 목소리가 스칼렛 요한슨 씨의 목소리를 모방한 것이 아니라, 다른 전문 배우의 목소리라고 주장했습니다. 오픈AI는 성명을 통해 "스카이의 목소리는 스칼렛 요한슨을 모방한 것이 아니라, 자연스러운 말투를 사용하는 다른 전문 배우의 목소리"라고 해명했습니다. 회사는 이 목소리가 요한슨 씨의 목소리와 유사하게 들릴 수 있다는 점을 인정하면서도, 이는 의도적인 모방이 아니라고 강조했습니다.

또한, 오픈AI는 프라이버시 보호를 이유로 목소리를 제공한 배우의 이름은 공개하지 않겠다고 밝혔습니다. 오픈AI는 성명에서 "스카이의 목소리를 제공한 배우는 수개월에 걸친 엄격한 캐스팅 과정을 통해 선정되었으며, 해당 배우의 프라이버시를 보호하기 위해 이름은 공개하지 않는다"고 설명했습니다.

오픈AI는 또한 "사용자들로부터 많은 질문을 받았으며, 이에 대한 문제를 해결하는 동안 '스카이' 음성 옵션의 제공을 일시 중단한다"고 발표했습니다. 이와 함께 오픈AI는 "스칼렛 요한슨 씨와의 소통에 있어서 더 나은 방법을 찾기 위해 노력할 것"이라고 덧붙였습니다.

4. 음성 딥페이크의 윤리적 문제

창작자의 권리 보호 문제

이번 사건은 AI 기술의 발전과 함께 창작자의 권리 보호 문제가 더욱 중요해지고 있음을 시사합니다. AI 기술이 발전하면서 인간의 목소리, 얼굴, 작품 등을 모방하는 것이 점점 쉬워지고 있습니다. 이는 창작자들에게 큰 위협이 될 수 있으며, 그들의 권리를 보호하기 위한 법적 장치가 필요합니다. 스칼렛 요한슨 씨와 오픈AI 간의 논란은 이러한 문제를 전면에 부각시키는 계기가 되었습니다.

AI 기술의 발전과 모방 가능성

AI 기술, 특히 딥러닝과 음성 합성 기술의 발전으로 인해 특정 개인의 목소리나 외모를 매우 정교하게 모방하는 것이 가능해졌습니다. 이러한 기술은 긍정적인 용도로 사용될 수 있지만, 동시에 악용될 가능성도 큽니다. 예를 들어, 유명인의 목소리나 외모를 무단으로 사용하여 상업적 이익을 추구하거나, 허위 정보를 퍼뜨리는 데 사용할 수 있습니다.

창작자의 권리와 프라이버시 침해

AI 기술을 통해 특정 개인의 목소리나 외모를 모방하는 것은 창작자의 권리와 프라이버시를 심각하게 침해할 수 있습니다. 창작자들은 자신들의 목소리나 외모가 무단으로 사용되지 않도록 보호받을 권리가 있습니다. 그러나 현재의 법적 장치들은 이러한 새로운 기술적 도전에 충분히 대응하지 못하고 있는 실정입니다.

법적 장치와 투명성 요구

요한슨 씨는 "투명한 형식과 적절한 법적 절차를 통해 문제가 해결되기를 기대한다"고 밝혔습니다. 이는 AI 기술이 발전함에 따라 법적 장치가 반드시 필요하다는 것을 시사합니다. AI가 창작자의 목소리나 얼굴을 모방하는 경우, 이를 명확하게 규제할 수 있는 법적 장치가 필요합니다. 또한, AI 개발자들이 투명한 절차를 통해 AI를 개발하고, 창작자의 권리를 존중하는 것이 중요합니다.

5. 시사점

스칼렛 요한슨 씨와 오픈AI 간의 목소리 논란은 AI와 인간 창작자 간의 경계 문제를 다시 한번 부각시켰습니다. AI 기술의 발전은 우리에게 많은 이점을 제공하지만, 창작자의 권리와 프라이버시를 침해할 가능성도 있습니다. 특히 음성 딥페이크 기술은 그 위험성이 매우 크므로 이를 방지하기 위해 법적 장치와 투명한 절차가 필요합니다.

법적 장치의 필요성

AI 기술이 발전하면서 창작자의 목소리나 얼굴, 작품 등을 무단으로 모방하는 사례가 증가하고 있습니다. 이러한 상황에서 창작자들의 권리를 보호하기 위해서는 새로운 법적 장치가 필요합니다. 법적 장치는 AI 기술의 사용을 규제하고, 창작자들이 자신들의 권리를 보호받을 수 있도록 도와줄 것입니다. 이번 사건은 이러한 법적 장치의 필요성을 강조하는 중요한 사례로 작용할 수 있습니다.

투명한 절차의 중요성

AI 개발자들은 기술 개발 과정에서 투명한 절차를 준수해야 합니다. 이는 창작자의 권리를 존중하고, 기술의 신뢰성을 높이는 데 기여할 것입니다. 오픈AI와 같은 기업들은 AI 음성 합성 기술을 개발할 때, 해당 기술이 특정 개인의 목소리를 모방하지 않도록 철저한 검증 과정을 거쳐야 합니다. 투명한 절차를 통해 AI 기술이 윤리적이고 책임감 있게 사용될 수 있도록 해야 합니다.

윤리적 기준 마련

AI 기술의 발전은 윤리적 기준 마련의 필요성을 더욱 부각시키고 있습니다. AI 개발자들은 기술 개발 과정에서 윤리적 기준을 준수하고, 창작자의 권리와 프라이버시를 존중해야 합니다. 이를 통해 AI 기술이 사회적으로 수용 가능한 방식으로 발전할 수 있도록 해야 합니다. 윤리적 기준은 AI 기술의 발전과 더불어 지속적으로 업데이트되어야 하며, 창작자의 권리 보호와 기술 발전의 균형을 맞추는 데 중요한 역할을 할 것입니다.

사회적 논의의 중요성

이번 사건은 AI와 창작자 간의 관계에 대한 중요한 논의의 시작이 될 수 있습니다. AI 기술의 발전이 창작자들에게 미치는 영향을 면밀히 분석하고, 이를 바탕으로 적절한 법적 장치와 윤리적 기준을 마련하는 것이 중요합니다. 사회적 논의를 통해 AI 기술의 윤리적 사용과 창작자의 권리 보호에 대한 공감대를 형성할 수 있습니다.

https://www.cnbc.com/2024/05/20/scarlett-johansson-says-openai-ripped-off-her-voice-.html