미국 백악관, 생성형 AI 기술을 남용한 딥페이크에 대한 대응

최근 생성형 AI 기술의 발전은 우리가 상상했던 것보다 더 빠르게 진보하고 있습니다. 이러한 발전은 다양한 분야에서 긍정적인 영향을 미치고 있지만, 반면에 심각한 부작용도 나타나고 있습니다. 그 중 하나가 바로 AI 딥페이크(deepfake) 기술을 이용한 성적 학대 이미지의 제작과 유포입니다. 이에 대해 미국 백악관은 강력한 대응을 촉구하고 있습니다.

1. AI 딥페이크 성적 학대 이미지의 문제점

최근 몇 년간 AI 기술을 활용한 이미지 생성 도구들이 폭발적으로 증가하면서, 유명인이나 일반인 할 것 없이 누구나 성적 학대의 대상이 될 수 있는 상황이 되었습니다. 특히, 이러한 이미지들이 인터넷과 소셜 미디어를 통해 급속히 퍼질 수 있다는 점에서 그 피해는 더욱 큽니다. 이러한 비동의 성적 이미지의 피해자는 유명인뿐만 아니라, 청소년과 어린이까지 확대되고 있으며, 이들은 이러한 이미지가 공개됨으로 인해 심각한 정신적 고통과 사회적 낙인을 경험하게 됩니다.

2. 백악관의 대응 및 요청

2023년 5월 25일, 백악관 과학기술정책실(OSTP)의 아라티 프라바카(Arati Prabhakar) 국장과 젠더정책위원회의 제니퍼 클라인(Jennifer Klein) 국장은 기술 산업과 금융 기관에 비동의 성적 이미지를 생성하고 유포하는 시장을 폐쇄할 것을 촉구하는 성명을 발표했습니다. 이들은 AI 기술의 비윤리적인 사용을 막기 위해 다음과 같은 조치를 제안했습니다:

• 결제 접근 제한 : 비동의 성적 이미지, 특히 아동의 성적 이미지를 광고하는 사이트에 대한 결제 접근을 제한할 것을 요청했습니다. 많은 결제 플랫폼과 금융 기관은 이미 이러한 비즈니스를 지원하지 않겠다고 밝혔지만, 이를 더 엄격히 시행할 필요가 있습니다.
• 클라우드 서비스와 앱 스토어 규제 : 성적 이미지를 생성하거나 수정하는 목적으로 마케팅되는 웹 서비스와 모바일 애플리케이션을 억제할 것을 권고했습니다. 클라우드 서비스 제공업체와 애플, 구글과 같은 앱 스토어 운영자가 이에 적극적으로 나설 필요가 있습니다.
• 신속한 이미지 삭제 : 피해자가 온라인에 게시된 이미지를 신속히 삭제할 수 있도록 온라인 플랫폼의 협조를 구했습니다. 이는 AI 생성 이미지 뿐만 아니라 실제 사진에도 적용됩니다.

3. 민간 기업의 자발적 참여

백악관은 아직 관련 연방법이 없는 상황에서 민간 기업의 자발적인 참여를 요청하고 있습니다. 프라바카 국장은 많은 기업이 이러한 비동의 성적 이미지의 확산을 막기 위해 자발적으로 나설 필요가 있다고 강조했습니다. 특히, 최근 마이크로소프트는 AI 디자인 도구에서 발생한 테일러 스위프트의 이미지를 강화하는 등의 조치를 취하기도 했습니다.

4. 향후 과제와 입법 필요성

백악관은 AI 기술의 남용을 막기 위한 기업의 자발적인 참여 외에도, 관련 법률의 제정이 필요하다고 강조했습니다. 현재, 일부 상원의원들은 AI 개발에 3년 동안 최소 320억 달러를 투자할 것을 촉구하고 있지만, AI 시스템의 안전한 개발을 위해 더 많은 입법적 지원이 필요합니다. 클라인 국장은 자발적인 참여만으로는 충분하지 않으며, 의회의 법적 조치가 필요하다고 밝혔습니다.

5. 결론

AI 기술의 발전은 우리 사회에 많은 혜택을 가져다주지만, 그와 동시에 심각한 문제를 야기할 수 있습니다. 비동의 성적 이미지의 확산은 그 중 하나로, 이를 방지하기 위해서는 기술 산업과 금융 기관의 협력이 필수적입니다. 백악관의 이번 발표는 이러한 문제를 해결하기 위한 중요한 첫걸음이며, 앞으로도 지속적인 관심과 노력이 필요할 것입니다.

특히, 우리는 이러한 문제를 해결하기 위해 법적 규제와 함께 기술적인 해결책을 모색해야 합니다. 이를 통해 AI 기술이 보다 안전하고 윤리적으로 사용될 수 있도록 해야 합니다. 백악관의 이번 발표는 이러한 방향성을 제시하는 중요한 시도로 평가할 수 있습니다.

미국, 생성형 AI 기술 남용한 딥페이크에 대한 대응

---

https://apnews.com/article/ai-deepfake-biden-nonconsensual-sexual-images-c76c46b48e872cf79ded5430e098e65b