AI가 생성하는 맞춤형 음란물 시대의 도래와 시사점

AI 기술이 음란물 제작에 활용되면서, 특히 딥페이크 포르노가 심각한 사회적 문제로 부상하고 있습니다. 이 기술은 인공지능, 특히 딥러닝을 이용해 피해자의 얼굴과 음성을 실제와 구분하기 어려울 정도로 정교하게 복제하고, 이를 기반으로 한 음란 영상을 제작하여 인터넷 상에 유포합니다.

1. 배경: AI 음란물의 사회적 문제화

최근에는 유명한 가수 테일러 스위프트의 얼굴이 음란 사진에 합성되어 대량으로 확산되는 사건이 발생했습니다. 이와 같은 딥페이크 음란물은 한번 인터넷에 유포되면 완전히 삭제하기 어렵다는 특성 때문에, 피해자는 삭제 작업이 이루어진 후에도 계속된 피해를 경험할 수 있습니다. 이러한 문제는 법적, 기술적 해결책을 요구하며, 사회적 경각심을 불러일으키고 있습니다.

2. 현행 규제와 한계 : AI 음란물에 대한 법적 도전

AI 기술을 활용한 음란물, 특히 딥페이크 관련 음란물에 대한 현행 법적 규제는 정보통신망법과 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법)을 통해 이루어지고 있습니다. 이 중 성폭력처벌법 제14조의2는 딥페이크를 이용한 음란물의 제작 및 유포 행위를 구체적으로 규제하고 있으며, 이를 통해 성적 욕망이나 수치심을 유발할 수 있는 형태로 영상을 편집하거나 합성하는 행위를 법적으로 처벌하고 있습니다.

법적 규제의 현황

• 정보통신망법은 온라인을 통한 음란물의 유통을 규제하며, 이를 위반할 경우 법적 책임을 부과합니다.
• 성폭력처벌법 제14조의2는 딥페이크 기술을 사용하여 음란물을 제작 및 유포하는 행위를 명시적으로 금지하고, 이를 어길 경우 징역 또는 벌금형에 처하도록 규정하고 있습니다.

법적 규제의 한계

• 개인 소지 목적의 제작: 개인적인 사용 목적으로 딥페이크 음란물을 제작하는 경우, 현재의 법적 규제에서는 처벌이 어렵습니다. 이는 의도적인 유포가 없는 경우에 대한 법적 공백으로 남아 있습니다.
• 의도하지 않은 유포: 음란물이 의도치 않게 타인에 의해 유포될 경우, 원 제작자 또는 유포자 모두에 대한 법적 책임이 명확하지 않아 처벌에 어려움이 있습니다.
• AI 음란물 제작의 명확성 부재: 현실의 인물을 모델로 한 AI 음란물 제작에 대한 규제가 명확히 정의되지 않아 법적 대응이 힘든 경우가 많습니다. 이는 AI 기술이 발전함에 따라 점점 더 현실적이고 구분하기 어려운 수준의 음란물이 제작될 가능성이 있음을 의미합니다.

필요한 법적 개선 조치

이러한 한계를 극복하기 위해 법적 규제의 범위를 확대하고, AI 기술을 활용한 음란물 제작에 대한 구체적인 법적 정의와 처벌 기준을 마련할 필요가 있습니다. 특히, 개인 소지 목적의 제작 및 의도치 않은 유포에 대한 처벌 조항을 강화하고, AI 음란물에 대한 명확한 법적 규정을 설정하는 것이 시급합니다. 이를 통해 기술적 발전과 사회적 책임 사이에서의 균형을 이룰 수 있을 것입니다.

3. 업계의 대응책 : AI 음란물 문제에 대한 기술적 접근

AI 음란물 제작에 대한 사회적 우려가 커지면서, 업계는 다양한 기술적 대응책을 개발하여 이 문제에 접근하고 있습니다. 오픈AI와 같은 기업들은 AI 생성 콘텐츠에 디지털 워터마크를 부착하고, 이를 통해 콘텐츠의 출처와 진위를 식별할 수 있는 기술을 도입하고 있습니다. 이 외에도 인텔과 구글은 딥페이크를 실시간으로 탐지하고, 가짜 콘텐츠를 식별하는 기술을 개발하여 AI 콘텐츠의 신뢰성을 높이는 데 주력하고 있습니다.

디지털 워터마크의 도입

• 오픈AI: AI 생성 이미지에 디지털 워터마크를 부착하여 이미지의 출처와 진위를 확인할 수 있게 합니다. 이는 사용자가 AI 생성물을 식별하고, 음란물 같은 부적절한 사용을 추적하는 데 도움을 줍니다.
• 콘텐츠 출처 확인 기술: AI 생성 콘텐츠에 대한 출처 및 진위 확인을 가능하게 하는 기술은 사용자가 정보의 신뢰성을 평가할 수 있도록 지원합니다.

실시간 딥페이크 탐지 기술

• 인텔의 Fake Catcher: 인텔은 세계 최초로 가짜 동영상을 96%의 정확도로 실시간으로 판별할 수 있는 딥페이크 탐지기를 개발했습니다. 이 기술은 실시간으로 콘텐츠의 진위를 판별하여 사용자가 가짜와 진짜를 구분할 수 있도록 합니다.
• 구글의 Fake Check Explorer: 구글은 신뢰할 수 있는 매체의 데이터를 기반으로 가짜 콘텐츠를 검증하는 탐색기를 개발하였습니다. 이는 인터넷상의 정보의 신뢰성을 높이는 데 중요한 도구로 활용됩니다.

한계와 과제

비록 이러한 기술적 대응책이 AI 음란물의 부작용을 어느 정도 제한할 수 있는 효과를 보이고 있지만, 완벽한 해결책은 아닙니다. 디지털 워터마크는 설계에 따라 제거될 수 있으며, 딥페이크 탐지 기술도 계속해서 진화하는 가짜 생성 기술에 대응하기 위해 지속적인 업데이트가 필요합니다. 이러한 기술적 접근은 AI 음란물을 완전히 차단하기보다는 관리하고 통제하는 데 중점을 두고 있으며, 이는 지속적인 연구와 개발을 통해 더욱 향상될 필요가 있습니다.

4. 시사점: 법적·사회적 대응의 필요성

AI 음란물의 부작용을 억제하기 위해서는 법적, 사회적 대응의 강화가 시급합니다. 기술적 발전이 가져오는 부정적인 파급 효과를 최소화하면서도 기술 자체의 진보를 저해하지 않는 균형 잡힌 접근이 필요합니다. 이러한 대응은 국내법뿐만 아니라 국제적 협력을 통해 이루어져야 할 것입니다. 또한, AI 기술의 윤리적 사용을 위한 교육과 공개적인 토론이 필요합니다.

법적 규제의 강화

• 정교한 법적 프레임워크의 구축: 현재의 법적 규제가 딥페이크와 같은 신기술을 충분히 반영하지 못하고 있으므로, 기술 발전에 맞춰 법적 규제를 갱신하고 세분화할 필요가 있습니다.
• 국제적 협력의 중요성: AI 음란물은 국경을 넘어서 확산되는 특성을 가지고 있기 때문에, 국제적인 법적 협약과 표준을 마련하여 글로벌 차원에서의 대응을 강화해야 합니다.

사회적 대응의 강화

• 공개적인 토론과 교육: AI 기술의 윤리적 사용에 대한 인식을 높이기 위해 교육 프로그램을 확대하고, 사회적인 토론을 장려해야 합니다. 이는 기술의 안전한 사용을 보장하고, 잠재적인 위험에 대해 대중이 잘 이해할 수 있도록 돕습니다.
• 기술적 대응책과의 협력: 업계는 기술적 솔루션을 개발하여 법적 규제를 보완할 수 있습니다. 예를 들어, 디지털 워터마크, 실시간 딥페이크 탐지기술 등을 통해 AI 음란물의 확산을 제한할 수 있습니다.

지속 가능한 기술 발전

• 윤리적 기준 설정: AI 음란물뿐만 아니라 AI 기술 전반에 걸친 윤리적 기준을 설정하고, 이를 업계와 학계, 정부가 공동으로 준수하도록 하는 것이 중요합니다. 이 기준은 기술의 발전이 인간의 삶을 향상시키는 방향으로 이루어지도록 유도할 것입니다.

이러한 종합적인 접근을 통해, AI 기술의 발전이 사회에 미치는 부정적 영향을 최소화하고, 인류에게 실질적인 이득을 제공하는 혁신으로 자리 잡을 수 있습니다. 이는 기술의 진보뿐만 아니라 사회 전체의 복지 향상을 목표로 해야 할 것입니다.

AI가 생성하는 딥페이크 영상의 도래와 문제