틱톡, 인공지능생성콘텐츠(AIGC) 오토라벨링으로 투명성 강화

1. AI 투명성 및 문해력 향상을 위한 업계 협력

틱톡은 AI 생성 콘텐츠(AIGC : AI-Generated Content)를 안전하고 책임감 있게 활용할 수 있도록 지속적으로 노력하고 있습니다. 최근 틱톡은 새로운 기능을 도입하여, 다른 플랫폼에서 업로드된 AI 생성 콘텐츠를 자동으로 라벨링하기 시작했습니다. 이는 틱톡이 콘텐츠 출처 및 진위성 연합(C2PA)과의 협력을 통해 이루어진 중요한 발전입니다. 또한, 틱톡은 MediaWise와 WITNESS와 같은 전문가들과 협력하여, 사용자들이 AI 생성 콘텐츠와 온라인에서의 잘못된 정보를 이해하고 구별할 수 있도록 돕는 미디어 문해력 자료들을 개발했습니다.

이러한 자료는 사용자들에게 AI 콘텐츠의 배경을 이해하고, AI가 만들어낸 정보의 진위를 판별하는 능력을 키우는 데 중점을 두고 있습니다. 틱톡의 이런 조치들은 플랫폼 내 콘텐츠의 투명성을 높이고, 사용자들이 정보를 비판적으로 분석하는 데 필요한 도구를 제공하여 디지털 시대의 문해력을 강화하는데 기여하고 있습니다. 이는 디지털 환경에서 점점 더 중요해지는 요소로, 사용자들이 신뢰할 수 있는 정보 소스를 식별하고 가짜 뉴스와 오보로부터 자신을 보호할 수 있게 합니다.

2. 투명성 투자

AI 기술은 창의적인 표현의 새로운 경로를 열어주며 무한한 가능성을 제공합니다. 하지만 동시에, 콘텐츠가 AI에 의해 생성되었다는 사실을 명확히 인식하지 못하는 사용자들에게는 혼란을 줄 수도 있습니다. 이러한 혼란을 방지하기 위해, 틱톡은 AI 생성 콘텐츠에 대한 투명성을 강조하고 있습니다. 틱톡은 자체 AI 효과로 만들어진 콘텐츠 뿐만 아니라, 현실과 구별하기 어려운 AIGC에 대해서도 창작자들이 콘텐츠에 라벨을 붙이도록 요구해왔습니다.

틱톡은 이 과정을 간소화하기 위해 3700만 명 이상의 창작자들이 사용할 수 있는 독창적인 도구를 개발했습니다. 이 도구는 사용자가 콘텐츠에 라벨을 쉽게 추가할 수 있도록 설계되었으며, AI 콘텐츠의 출처와 성격을 명확히 할 수 있게 도와줍니다. 이러한 라벨링은 사용자들이 제공되는 정보를 보다 명확하게 이해하고, AI가 만든 콘텐츠를 인지할 수 있는 중요한 수단이 됩니다.

틱톡의 이러한 투명성 투자는 사용자들에게 보다 신뢰할 수 있는 디지털 환경을 제공하고, AI 콘텐츠의 영향을 정확히 파악하고 관리할 수 있는 능력을 강화하는 데 기여하고 있습니다. 이는 AI 기술의 발전과 함께 점점 더 중요해지는 요소로, 사용자들이 기술의 영향을 이해하고 적절히 대응할 수 있도록 돕습니다.

3. AIGC 라벨링을 위한 업계 파트너십

틱톡은 AI 생성 콘텐츠(AIGC)의 정확한 식별과 라벨링을 위해 콘텐츠 출처 및 진위성 연합(C2PA)과 협력하여 콘텐츠 자격 증명 기술을 적용하고 있습니다. 이 기술은 콘텐츠에 메타데이터를 부착하여, 틱톡이 다른 플랫폼에서 생성된 AIGC를 즉시 인식하고 해당 콘텐츠에 자동으로 라벨을 부여할 수 있게 해줍니다. 이는 사용자가 콘텐츠를 소비할 때 AI의 개입이 있었는지를 명확하게 알 수 있도록 함으로써, 투명성을 제고하고 오해의 소지를 줄이는데 중요한 역할을 합니다.

현재 이미지와 비디오 콘텐츠에 대해 이 기능이 시행되고 있으며, 틱톡은 곧 이 기술을 오디오 콘텐츠에도 확장할 계획입니다. 이러한 기술의 도입은 틱톡이 다른 플랫폼들과 협력하여 콘텐츠의 출처와 진위를 효과적으로 관리하고, 사용자들에게 보다 투명한 정보를 제공할 수 있는 기반을 마련해 줍니다.

이와 같은 파트너십은 디지털 미디어의 신뢰성을 높이고, AI 기술이 미디어 산업에 미치는 영향을 관리하는 데 중요한 단계입니다. 틱톡은 이러한 노력을 통해 사용자들이 AI 생성 콘텐츠를 보다 잘 이해하고 올바르게 활용할 수 있는 환경을 조성하고자 합니다.

4. 산업 내 채택 촉진

틱톡은 AI 생성 콘텐츠(AIGC)의 투명성을 강화하기 위해 Adobe가 주도하는 콘텐츠 진위성 이니셔티브(Content Authenticity Initiative, CAI)에 참여하고 있습니다. 이 이니셔티브는 디지털 콘텐츠의 출처와 진위를 확인할 수 있는 메타데이터를 콘텐츠에 부착하는 것을 목표로 하며, 틱톡은 이 기술을 실제로 적용하는 최초의 비디오 공유 플랫폼이 되었습니다. 이로써 틱톡은 콘텐츠의 투명성을 높이는 선구적 역할을 하고 있으며, 다른 플랫폼들도 이러한 기술을 도입하도록 견인하고 있습니다.

틱톡의 이러한 노력은 산업 전반에 걸쳐 콘텐츠 자격 증명의 채택을 촉진하는 데 중요한 역할을 합니다. 이 기술의 도입은 사용자들이 제공되는 콘텐츠의 출처와 진위를 보다 쉽게 확인할 수 있도록 하여, 디지털 시대의 정보 소비에 대한 신뢰성을 높이는 데 기여합니다. 또한, 이를 통해 플랫폼 간의 협력과 표준화가 증진되어, 디지털 미디어 산업이 보다 투명하고 신뢰할 수 있는 방향으로 발전할 수 있는 기반을 마련하고 있습니다.

틱톡의 이러한 행보는 산업 내에서 신뢰와 투명성을 중요시하는 추세와 일치하며, 향후 디지털 콘텐츠 관리에 있어 중요한 이정표가 될 것입니다. 이는 모든 사용자가 진정으로 신뢰할 수 있는 디지털 환경에서 콘텐츠를 소비할 수 있도록 하는 데 필수적인 요소입니다.

5. 미디어 문해력 향상

틱톡은 AI 생성 콘텐츠(AIGC)의 라벨링을 통해 사용자들이 콘텐츠의 출처와 성격을 이해할 수 있도록 도와주고 있습니다. 그러나 단순히 라벨을 붙이는 것만으로는 사용자들이 그 의미를 충분히 이해하는 데 한계가 있을 수 있습니다. 이러한 문제를 해결하기 위해 틱톡은 미디어 문해력 캠페인을 개발하여, 사용자들이 AIGC와 정보의 진위를 구별하고, 미디어 콘텐츠를 보다 비판적인 관점에서 평가할 수 있도록 지원하고 있습니다.

이 캠페인은 다양한 교육 자료와 활동을 통해 구성되어 있으며, MediaWise와 WITNESS와 같은 전문기관의 지원을 받아 실시됩니다. 예를 들어, 틱톡은 연간 12개의 비디오를 출시하여, 미디어 문해력을 강화하는 핵심 기술들을 설명하고, AIGC 라벨이 콘텐츠에 어떻게 추가 맥락을 제공하는지를 설명할 계획입니다. 이러한 자료들은 사용자들이 미디어 콘텐츠를 소비할 때 보다 정보에 근거한 결정을 내릴 수 있도록 도와줍니다.

틱톡의 미디어 문해력 캠페인은 정보의 바다에서 진위를 구별하는 능력을 갖추는 것이 점점 더 중요해지는 현 시대에 매우 중요한 역할을 합니다. 이는 사용자들이 가짜 뉴스와 오보로부터 스스로를 보호하고, 정확하고 신뢰할 수 있는 정보에 기반한 의사결정을 내릴 수 있도록 돕습니다. 이러한 노력은 디지털 미디어의 투명성과 신뢰성을 높이는 데 결정적인 기여를 하며, 건강한 정보 생태계의 발전을 촉진합니다.

6. 해로운 콘텐츠에 대한 지속적인 대응

틱톡은 AI 생성 콘텐츠(AIGC)가 제공하는 창의적인 기회를 인정하면서도, 이러한 기술이 남용될 때 발생할 수 있는 위험을 심각하게 다루고 있습니다. 대부분의 사용자가 AI를 책임감 있게 사용하고자 하지만, 일부는 이를 악용해 의도적으로 타인을 속이려고 시도합니다. 이에 틱톡은 해로운 AI 생성 콘텐츠의 사용을 엄격하게 금지하는 정책을 시행하고 있으며, 특히 선거 과정에서 기만적 AI 사용을 방지하기 위해 업계 협약에 서명하는 등 적극적인 조치를 취하고 있습니다.

틱톡은 이러한 정책을 지원하기 위해 AI 기술이 발전함에 따라 지속적으로 자동 감지 모델을 개발하고 업그레이드하여, 해로운 콘텐츠가 플랫폼에 퍼지는 것을 사전에 차단하고자 노력하고 있습니다. 이러한 노력은 전문가의 조언을 받아 이루어지며, 동종 업계와의 파트너십을 통해 공유된 솔루션을 마련하고 있습니다.

틱톡의 이러한 노력은 플랫폼 내에서 AI 생성 콘텐츠의 안전한 사용을 촉진하고, 사용자들이 신뢰할 수 있는 환경에서 디지털 콘텐츠를 경험할 수 있도록 하는 데 중요한 역할을 합니다. 이는 플랫폼의 투명성과 진위성을 보장하는 데 핵심적인 요소로, 디지털 시대에 정보의 신뢰성을 유지하는 데 필수적인 부분입니다. 따라서 틱톡은 해로운 AI 생성 콘텐츠에 대한 대응을 계속해서 강화할 계획입니다.

틱톡 AIGC

 

https://newsroom.tiktok.com/en-us/partnering-with-our-industry-to-advance-ai-transparency-and-literacy