유튜브, 생성형 AI로 생성된 영상에 대한 별도의 레이블 요구 조건 제시

생성형 AI 시대가 되면서, 모두가 쉽게 크리에이터로 진입을 할 수 있는 기회가 오고야 말았습니다. 이미지, 동영상 분야에서 기존의 이해관계자들 보다 더욱 쉽게 디자인, 동영상 제작 및 편집이 가능한 시대가 오고 있는데요. 그에 반해서 콘텐츠를 확산, 노출해주는 빅 브라더 들(Meta, Youtube, Tiktok 등)은 생성형 AI로 생성되는 콘텐츠의 저작권 및 사용자 들에게 노출시 '투명성' 및 '신뢰도'를 강화하기 위한 대응책 들을 강구하고 있습니다.

최근 Sora(with OpenAI)가 공개한 일반 크리에이터(아티스트) 들과 공개한 다수의 단편 영상들만 봐도, 앞으로 동영상 크리에이터 시장 판도가 매우 달라질 것이라는 시장 반응이 매우 뜨겁습니다. 달리 이야기 하면, 무분별한 동영상 콘텐츠가 생성형 AI로 탄생되면서 윤리적인 문제도, 자본시장에 충격적인 이슈가 발생될 수 있다는 예측까지 나오고 있는데요. 사실 Sora 프로젝트가 OpenAI가 내부 소수의 멤버들이 진행한(2~3명의 엔지니어) 미니 프로젝트로 불리지만 이러한 결과물이 주는 파급력은 엄청 납니다. OpenAI CTO가 언급한대로 계속 보정하는 작업이 진행중이며, 레드팀(Red Team)이 부정확하며 윤리적으로 민감한 사항 들을 계속 모니터링 하겠지만 아무튼 2024년 하반기에는 Sora의 향방이 일어날 것이라 업계는 주목하고 있죠.

관련 글 - Sora : First Impression 

본론으로 바로 이야기하면, 위의 내용과 이어져서 동영상의 대표적인 플랫폼인 'Youtube'가 이러한 시대적 흐름에 크리에이터를 위한 '요구 조건'을 하나 제시했습니다. 그것은 바로 <생성형 AI로 제작되는 영상에 대해 'AI로 제작된 영상입니다' 라는 레이블 - 표기 를 해달라> 라는 권고 사항입니다.

주요 내용은 이렇습니다

최근 유튜브는 AI 생성 콘텐츠에 대한 새로운 가이드라인을 발표하며, 크리에이터들에게 새로운 요구사항을 제시했습니다. 이러한 변화는 AI 기술의 발전과 함께 콘텐츠 제작 및 소비 방식에 혁신을 가져오고 있으며, 크리에이터들은 이러한 변화에 주목하고 적응해야 합니다.

유튜브가 제시한 'AI 생성 콘텐츠에 대한 새로운 정책'

- 발표된 핵심 내용(1) : https://blog.youtube/news-and-events/disclosing-ai-generated-content/

- 위의 핵심 내용과 연관된 기사 내용(2) : https://www.socialmediatoday.com/news/youtube-launches-ai-disclosure-requirements-uploads/710622/

유튜브는 AI로 생성된 콘텐츠의 투명성을 높이기 위해 새로운 라벨링 시스템을 도입했습니다. 이는 사용자들이 보고 있는 콘텐츠가 AI에 의해 생성되었는지 여부를 쉽게 알 수 있도록 하여, 콘텐츠의 신뢰성을 높이고 딥페이크와 같은 문제를 방지하는 데 목적이 있습니다.

- 국내 사례 하나 : 카카오의 딥페이크 허위 조작 정보 근절(with 국회의원 선거 관련)

그렇다면, 유튜브에서 요청하는 '주요 요구사항'은 무엇인가?

이러한 요구 사항에 맞춰, 과연 크리에이터는 무엇을 할 수 있을까요?(with 크리에이터가 취해야 할 조치)

위의 커뮤니티 가이드라인 이외에, AI 기반의 영상 콘텐츠에 대한 유튜브의 목적성이 뚜렷한 내용이 2023년에 Responsible AI에 준하여 발표가 된 바 있습니다.

- 관련 내용 : https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/ 

이렇게, 유튜브는 AI 기술의 발전에 따라 (동영상) 콘텐츠 제작에 새로운 가능성을 열어주고 있습니다. 단, 기술적인 발전에 따라 이를 악용하거나 이용할 시에 일어날 수 있는 무게감에 대해서 선제적으로 대응하는 모습을 보여주는 것인데요. 과거 facebook이 Cambridge Analytica Issue로 미국 정부와 국민, 그리고 범용적인 사용자를 대상으로 'Sorry'를 외치면서 Privacy를 강화하며 플랫폼 알고리즘 까지 변경한 사례를 다시 생각해보면 될 것 같습니다. 유튜브의 이러한 새로운 책임과 요구사항에 대해서 동영상 제작자, 크리에이터들은 유튜브의 최신 AI 요청사항을 숙지하고, 이를 기술적으로 적용하여 콘텐츠의 투명성과 신뢰성을 유지하는 데 주력해야 할 것입니다.

이러한 환경 변화에 맞춰, AI 기술을 적용하는 유튜브 콘텐츠 제작자가 고려해야 하는 주요 사항은 무엇일지 생각해본다면 원문의 기사를 기반으로 아래와 같이 정리해보겠습니다.

1. 라벨 지정 의무화: 제작자는 동영상 업로드 시 현실적인 생성 AI 콘텐츠에 라벨을 지정해야 합니다. 이는 특히 선거나 진행 중인 갈등과 같은 민감한 주제에서 중요합니다

2. 공개 요구 사항 준수: 유튜브는 생성형 AI 제품 및 기능으로 제작된 콘텐츠에 합성 또는 변형되었다는 라벨을 붙여 명확하게 공개하도록 요구합니다

3. 커뮤니티 가이드라인 준수: 유튜브에 업로드되는 모든 콘텐츠는 생성 방법에 관계없이 유튜브의 커뮤니티 가이드라인의 적용을 받습니다

4. 변경되거나 합성된 콘텐츠에 대한 투명성: 크리에이터는 AI 도구 사용 등을 통해 변형되었거나 합성된 사실적인 콘텐츠를 제작한 경우, 이러한 사실을 공개하도록 요청받습니다[6].

5. 콘텐츠 삭제 및 수익 창출 중단 위험: 라벨을 지정하지 않거나 가이드라인을 준수하지 않을 경우, 게시 중단, 수익 창출 중단 등의 다양한 처벌이 조치될 수 있습니다

6. 개인 정보 보호 및 저작권 존중: AI로 생성되거나 다른 방식으로 합성 또는 변형된 콘텐츠에서 신원 파악이 가능한 개인을 모방한 경우, 개인 정보 침해 신고 절차에 따라 콘텐츠 삭제를 요청할 수 있습니다

7. AI 기술의 책임감 있는 사용: 유튜브는 생성형 AI가 창의력을 촉진하고 사용자 경험을 변화시킬 수 있는 잠재력을 인정하면서도, 커뮤니티를 보호해야 할 책임과 균형을 이루어야 한다고 강조합니다

이러한 사항들은 유튜브 콘텐츠 제작자가 AI 기술을 적용할 때 반드시 고려해야 할 중요한 요소들 일겁니다. 특히, 유튜브 플랫폼 입장에서 위의 내용들을 통해 건전한 정보 생태계를 유지하고, 시청자를 오도하거나 심각한 피해를 초래할 수 있는 기술적으로 조작된 콘텐츠를 방지하려고 할 것입니다.

AI 시대가 오면서 누구나 콘텐츠 접근성이 편해지고, 장벽이 무너진 것은 사실 입니다. 하지만 각각의 이해 관계자들이 많이 있는 상황에서 더욱더 윤리적인 면이 강화될 텐데요. 특히 콘텐츠를 제작하고, 이를 유통하면서 자본시장 및 마케팅 환경에서 일을 하는 종사자 라면 이러한 내용들을 기반으로 플랫폼의 커뮤니티 정책 및 가이드라인을 준수하는 것은 매우 중요한 문제 입니다.

매우 예민한 주제, 투명성을 지키는 책무, 콘텐츠를 명확하게 분류(공개 / 비공개), 또한 새로운 기능이 공개될 때 그에 대한 적정성을 판단하는 것도 마케팅 업무의 단일적인 것을 떠나서 비즈니스 적인 안정적 운영 측면을 고려해서 항상 판단해야 하는 항목일 겁니다.

결국, 플랫폼은 창작자 - 시청자(또는 사용자) 간의 신뢰를 기반으로 시스템이 돌아간다는 것을 명확하게 인지해주길 항상 언급하고 있다는 것을 명심해야 할겁니다. 생성형 AI가 만든 시대적인 숙제는 이제부터가 시작이 아닐까 합니다.

이러한 내용을 기반으로, 마케팅 현장에서 콘텐츠 제작시 명확한 가이드라인과 정책을 준수하면서 크리에이티브의 경계를 정리하는 팀과 함께 일하는 것도 또 하나의 방법이 아닐까 합니다!

긴 글 읽어주셔서 고맙습니다.

이러한 환경의 변화에 대해 함께 고민하고, 적용 방안, 마케팅 적으로 접근하고자 하는 팀이라면 이야기 주세요. AGI의 시대에 AI윤리와 Responsible AI, 디지털 마케팅, 콘텐츠, 팀의 성장을 함께 논의 할 수 있는 파트너가 찾아뵙겠습니다. 

이메일 : [email protected] | 모바일 : 010.9341.7695
트로이 대표 파트너 : 박충효