AI로 생성된 모든 콘텐츠에 라벨을 부여하기로 결정한 메타(Meta), 결국 투명성 강조

사람이 제작한 이미지와 AI가 제작한 영상 간의 확실한 구분을 지을 메타(Meta) 플랫폼의 변화에 주목해야 하는 시점이 다가 오고 있습니다

특히, 2024년 슈퍼 선거의 해로 이야기되는 2024년 올해는 미국 대선을 앞두고 있고, 대한민국도 국회의원 선거(총선), 그 뿐만 아니라 전세계적으로 주요 의사결정권 및 국회의원, 대통령 선거들이 모두 맞닿아 있어서 생성형 AI를 통한 이미지 생성, 동영상 생성, 특히 중요 정치 권력자들의 얼굴을 딥페이크 영상으로 재생성하여 가짜 뉴스를 만들어 내는 상황들이 펼쳐질 것으로 예상되어서 그에 대한 준비를 빠르게 하고 있는 상황입니다.

유튜브 또한 생성형 AI로 만든 동영상에도 자발적으로 라벨링을 하겠다는 이야기가 최근에 나왔었고, 썸네일 A/B 테스트까지 하는 기능 도입도 고려중인 이야기가 나오는 상황에서 정치광고에 민감한 메타(Meta. Facebook)는 해당 이슈를 가만히 손놓고 있을 상황이 아닐듯 합니다.

2024년 5월 라벨(Made with AI) 도입

그리하여, 메타(Meta)는 돌아오는 5월부터 더 광범위한 동영상, 오디오 및 이미지 콘텐츠에 'AI로 제작됨(Made with AI)'이라는 라벨(위의 이미지 형태)을 붙이기 시작할 예정이라는 소식을 뉴스룸(newsroom)을 통해서 밝혔는데요

이번에 Meta는 현재의 라벨링 정책이 "너무 좁다"고 인정하며, 오늘날의 광범위한 AI 제작 콘텐츠와 바이든 대통령이 젊은 한 여성을 부적절하게 만지는 것처럼 보이게 만든 2024년 1월 동영상과 같은 정치적으로 민감한 사항에 기반한 조작된 콘텐츠를 (가짜 뉴스로) 처리하기 위해서는 더 강력한 (모니터링 및 예방) 시스템이 필요하다고 언급을 했습니다

이것은 결국엔 메타 스스로 콘텐츠 감독 시스템에 대한 강력한 조치의 일환 일수도 있습니다

(적용될) 라벨은 사용자가 콘텐츠를 게시할 때 스스로 공개하거나 (시스템 상의) 팩트체커(fact-checker)의 조언에 따라 생성될 수 있고, Meta가 AI 제작 콘텐츠의 보이지 않는 마커를 감지하여 생성될 수도 있습니다

해당 내용은 실질적으로 마케터 입장에서는 '메타의 책임있는 AI' 가이드라인에 따른 조치로서 이해해야 하는데요. 'Made with AI' 라벨을 AI가 생성한 동영상, 오디오, 이미지에 부여함으로써 투명성을 제공하며, 고의적인 (콘텐츠 생산자의) 속임수 가능성이 높은 경우에 대응하는 더욱더 두드러진 라벨을 부여하는 차원의 작업이라고 판단됩니다

그렇다면 적용 시기와 앞으로의 대응 플랜은?

메타(Meta)의 새로운 정책은 현재 정책의 업데이트를 촉구한 (독립적인) 감독 위원회의 피드백에 대한 응답임을 뉴스룸에도 밝혔습니다. 현재의 "조작된 미디어" 규정은 "사람이 말하지 않은 것을 말하는 것처럼 보이도록 AI가 만들거나 변경한 동영상"에만 적용되는데요.

2024년 2월부터는 메타 AI 기능으로 만든 사실적인 이미지에 'Imagined with AI' 라벨을 추가하기 시작했었습니다.

메타의 콘텐츠 정책 담당 부사장인 '모니카 비커트(Monica Bickert'는 본인의 블로그 게시물에서 "메타(Meta)는 라벨과 맥락을 추가할 수 있도록 콘텐츠를 플랫폼에 유지할 것"이라고 내용을 밝혔고요. 콘텐츠를 검열하는 것보다 투명성을 높이는 것이 더 낫다고 주장했다고 합니다.

이는 즉, 모든 콘텐츠에 대한 1차적인 검수 보다는 기존 광고 시스템과 같이 몇단계의 절차를 운영하면서 라벨링이 안된 콘텐츠에 대해서는 후자적인, 알고리즘 차원의 라벨링 표시하는 권고 작업 및 정책 위반 사항을 걸러내겠다는 의미로도 해석될 수 있습니다(이 부분을 단순하게 마케터가 무시하고 넘어가면 안될듯 합니다). 단, 메타는 "(슈퍼 선거의 해, 특히 미국 대선을 고려하여)유권자에게 정치적인 간섭, (정신적이며 실제적인)괴롭힘, 폭력 및 선동 또는 기타 정책에 위배되는 콘텐츠(일명 가짜 뉴스 이겠죠. 과거 트럼프 대선 과정에서 펼쳐졌던 Cambridge Analytica 때의 이슈와는 다르지만, 정치적으로 많은 검증을 거쳐야 했던 당시 페이스북의 입장에서는 이번의 선제적인 조치는 당연한 과정이라 판단됩니다)는 AI가 만들었든, 사람이 만들었든 상관없이 삭제할 것"이라고 밝혔다고 합니다

2024년 5월 부터 AI가 생성한 콘텐츠에 라벨(Made with AI)을 부여하고, 2024년 7월부터 제작된 비디오 정책에도 유사한 기존의 규칙에 의해 콘텐츠를 삭제 및 중지한다고 밝혔습니다

라벨링 적용에 대한 정책(Policy) 조정은 2023년 봄, 메타의 책임있는 AI 가이드라인 및 정책을 발표하면서 그 효력이 시작되었었고요. 이미 34개국에서 120명 이상의 이해관계자와 의견을 교환한 결과, AI 생성 콘텐츠에 대한 라벨 부착이나 고위험성 상황에서 더 두드러진 라벨링을 지지하는 의견이 나타났다고 합니다. 이러한 부분은 결국 실제 사용자에게 콘텐츠가 전달될 수 있는 할루시네이션, 사실, 투명성에 대한 윤리적인 접근에 기반된 사항일 겁니다

특히, 뉴스룸 내용의 후반에는 13개국에서 2만 3천 여명을 대상으로 한 여론조사에서 AI 생성 콘텐츠에 대한 경고, 안내 라벨링에 대한 지지가 높았음을 밝히고 있습니다

마케터가 생각하고, 고려하고, 준비해야 하는 6가지 

마케터에게 이번 환경적인 변화 - 특히 플랫폼에서 생성형 AI로 만든 콘텐츠 활용과 라벨(Made with AI) 도입이 미디어 활용(콘텐츠 마케팅 운영시), 운영에 어떤 영향을 미칠까요? 다음과 같은 3가지 및 콘텐츠의 신뢰도 향상과 관련된 3가지. 총 6가지로 해석될 수 있습니다

첫째. 레이블이 도입됨으로써 사용자들은 노출되고 있는 콘텐츠가 AI에 의해 생성된 것임을 더욱더 명확하게 인식할 수 있을 것 - 사용자들이 콘텐츠를 보거나 소비할 때 AI로 생성된 콘텐츠와 인간이 생성한 콘텐츠를 구별하는 데 명확하게 도움이 될 것(가짜와 진짜 여부 판단에 대한 경계를 확연하게 해줄 것)

둘째. 레이블이 도입된 미디어에서 AI 생성 콘텐츠에 대한 신뢰도와 신뢰성이 높아질 것으로 예상되는 것 - 사용자들은 레이블이 도입된 콘텐츠를 보고, AI에 의해 생성되었음을 알기 때문에 해당 콘텐츠에 대한 믿음이 높아질 것이고. 이에 대한 실측 데이터를 기반으로 인간이 생성한 콘텐츠 vs AI가 생성한 콘텐츠 간의 주요 지표를 분석하는 차원에서 콘텐츠의 효과성, 퍼포먼스 검증이 더욱더 명확해짐. 이러한 판단으로 콘텐츠 마케터에게는 좀 더 공격적 vs 보수적인 접근 방향에 대한 의사 결정이 나타나게 될 것

셋째. AI 생성 콘텐츠에 대한 레이블 도입은 미디어/콘텐츠 마케팅 산업 전체에 대한 투명성을 증대 시킬 것으로 예상되는 것 - 결국 사용자들에게는 매력적인 콘텐츠가 지속적인 소비를 만들게 될텐데, 미디어가 어떻게 생성되었는지에 대해 더욱 많은 정보를 얻을 수 있을 것이며, 미디어/콘텐츠 마케팅 산업에는 중장기적으로 투명성과 신뢰성을 향상 시키는 데 도움이 될것으로 기대됨

위 3가지에 맞춰 AI 윤리와 책임있는 AI에 접근해서 마케터가 AI가 생성한 콘텐츠의 신뢰도 향상에는 어떤 면이 있는지 추가적으로 이야기 한다면,

첫째. 소비자의 정보 및 투명성에 대한 권리를 보장 : 정보에 대한 신뢰도, 콘텐츠의 출처와 특성의 이해

둘째. 윤리적인 측면에서 AI 생성 콘텐츠를 레이블링 함으로써 콘텐츠의 신뢰성과 진실성을 유지하는 데 도움이 됨(결국, 윤리적인 콘텐츠 생태계 구축에 일조하면서, 생산성 까지 가져올 수 있는 미래의 밑그림)

셋째. (가장 중요한) 지적 재산권 보호를 강화하는 측면 : (지속적으로 해결해야 하는 문제) AI 생성 콘텐츠의 레이블링은 콘텐츠의 출처를 명확히 할 수 있어 지적 재산권을 보호하고 승인된 작성자를 정확히 식별하는데 도움을 줌(장기적으로 콘텐츠 생산자와 소비자 간의 신뢰 구축이 Last Mile의 Goal)

--- --- ---

내용을 정리하며, 기존 메타 및 구글 플랫폼에 의존하여 콘텐츠를 제작하던 마케터 들에게는 2024년 5월 부터는 매우 파격적인 업무 적용시점이 될 듯 합니다

콘텐츠에 대한 검증을 과거 10여년 동안 진행한 메타 입장에서는 자체적인 언어모델 '라마'를 기반으로 더욱더 공격적인 콘텐츠 활용 시점을 마케터 들에게 제시하게 되는 시기가 찾아오게 되는거죠

'정책', '플랫폼의 변화', 'AI의 특징'들을 지속적으로 모니터링 하면서, 현업에서 어떻게 적용할지를 계속 고민하는 시기를 만나보셨으면 합니다.

--- --- ---

관련 레퍼런스 :

(1) Meta newsroom - https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/ 

(2) Transparency Center : https://transparency.fb.com/ko-kr/policies/community-standards/misinformation/

(2-1) Fact-checker : https://www.facebook.com/business/help/2593586717571940?id=673052479947730 

(3) Oversight Board feedback : https://www.oversightboard.com/decision/FB-GW8BY1Y3 

(4) related article : https://www.axios.com/2024/02/06/meta-ai-labeling-fix-oversight-board 

--- --- ---

긴글 읽어 주셔서 고맙습니다

위의 내용과 함께 디지털 팀의 '콘텐츠 마케팅'의 운영 노하우, '데이터 거버넌스' 및 '데이터 KPI' 구체화, 메타 및 구글 플랫폼 운영 자문 및 코칭, 그 이외에 초기 마케팅 셋업 및 운영, (가이드라인에 기반한) 마케팅 프로세스 구축 및  운영에 관심있을 가지고 있는 팀이라면 (언제든지) 이야기 주세요. AGI의 시대에 AI윤리와 Responsible AI, 디지털 마케팅, 콘텐츠, 팀의 성장을 함께 논의 할 수 있는 파트너가 찾아뵙겠습니다

이메일 : [email protected] | 모바일 : 010.9341.7695
트로이 대표 파트너 : 박충효