Blog

pen near black lined paper and eyeglasses

2021년 초부터 구글과 애플을 중심으로 한 쿠키 사용의 중단으로 인해 광고 산업은 새로운 타겟팅 및 추적 방법에 대한 필요성이 증가했습니다. 이에 대한 도전에 대응하기 위해 AI는 개인화 및 예측 모델을 제공하여 광고 산업의 이러한 고민을 해소할 수 있으며, 대규모적인 관련성과 개인화를 가능하게 하고 새로운 가치 및 성과 기회를 발굴할 수 있습니다. 또한, Performance Max 캠페인, 크로스 채널 입찰 최적화, AI 기반 검색 캠페인과 같은 AI 기반의 광고 솔루션이 사업체가 고유한 마케팅 목표를 달성하도록 도와줄 수 있습니다. 이처럼 AI는 개인화된 광고 콘텐츠 생성과 광고 성과에 대한 정확한 측정 및 인사이트를 제공함으로써 광고 산업에 기여할 수 있습니다.<table style="border-collapse: collapse; width: 100%;" border="1" data-mce-style="border-collapse: collapse; width: 100%;"><tbody><tr><td style="width: 100%;" data-mce-style="width: 100%;">쿠키란</td></tr><tr><td style="width: 100%;" data-mce-style="width: 100%;">쿠키에 대해서 간단하게 설명한다면, 웹 브라우저에서 생성되는 작은 데이터 파일로, 웹 사이트 자동 로그인이나 내가 최근 본 상품들이 표시되는 것이 모두 쿠키를 이용한 것쿠키가 없다면 이런 기능을 사용할 수가 없는 것! 쿠키는 크게 퍼스트파티(First-party) 쿠키와 서드파티(Third-party) 쿠키로 나눌 수 있음</td></tr></tbody></table><figure id="figure-96h4e0isreluc7oc5q" data-full-width="" class=""><iframe id="96h4e0isreluc7oc5q" src="https://www.youtube.com/embed/kyTu3mgGfUA" class="w-full bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9;" allowfullscreen="" data-url="https://youtu.be/kyTu3mgGfUA" data-corners="default" data-fullwidth="true" data-mce-src="https://www.youtube.com/embed/kyTu3mgGfUA" data-mce-style="aspect-ratio: 16/9;"></iframe></figure>광고 타겟팅 및 개인화 사례쿠키의 점차적인 감소로 인해 AI는 광고 연결 및 콘텐츠 소비 패턴을 기반으로 사용자의 선호도를 예측하고 타겟팅을 최적화하여 광고 산업에 도움을 줄 수 있습니다. 또한 AI는 사용자의 상호작용을 분석하고 그에 따라 조정하여 관련 콘텐츠와 검색 결과를 제공할 수 있어 광고 성과를 향상시킬 수 있습니다. 마케팅 및 광고 캠페인에서 AI를 활용하는 것은 고객 경험을 향상시키고 광고 성과를 개선함으로써 상당한 가치를 창출할 수 있습니다.구글 Ads의 스마트 입찰과 같은 AI 기반의 광고 솔루션은 머신 러닝을 활용하여 광고 경매에 대한 최적의 입찰을 자동으로 설정합니다. 또한, 예측 분석 AI는 대규모 데이터셋을 분석하여 광고 캠페인을 최적화하고 사용자 행동을 예측합니다. 이러한 AI 기반 솔루션은 광고 산업이 쿠키가 사라진 후에도 유용한 인사이트를 제공하여 그 목표 시장에 대한 더 나은 이해를 돕고 마케팅 목표를 달성할 수 있도록 도와줄 수 있습니다.Privacy Sandbox와 같은 쿠키 대체 기술의 예시 및 기능구글의 Privacy Sandbox는 써드파티 쿠키에 의존하지 않고도 타겟팅 광고를 위한 새로운 프레임워크를 제공하는 중요한 이니셔티브입니다. 이를 통해 광고주들은 쿠키를 대체하고 광고 타겟팅과 측정을 유지할 수 있도록 지원받을 수 있습니다. Privacy Sandbox는 사용자의 프라이버시를 보호하면서도 광고 타겟팅 및 분석 기능을 제공하는데 중요한 역할을 합니다.또한, 구글 외에도 유니버셜 ID, Identity Graphs, Data Clean Rooms와 같은 대체 기술을 제공하는 회사들이 있습니다. 이러한 대체 기술을 활용하여 광고주들은 효과적인 광고 타겟 마케팅과 측정을 가능하게 할 수 있습니다. 이러한 새로운 프레임워크와 기술은 쿠키 사용 중단으로 인한 변화에 적응할 수 있도록 도와줄 것으로 기대됩니다.AI를 통한 광고 성과 분석 및 최적화 방법AI는 쿠키 사용 중단으로 인해 광고 성과를 분석하고 최적화하는 데에 다양하게 활용될 수 있습니다. 예를 들어, AI를 활용하여 대규모 데이터셋을 분석하여 사용자의 행동을 예측하고 고가치 사용자를 식별하여 광고 타겟팅을 최적화할 수 있습니다. 이러한 방법은 사용자의 검색 이력, 웹 브라우징 패턴 등을 분석하여 상세한 고객 프로필을 작성하고 맞춤형 광고를 제공하는 데 활용됩니다.또한, AI는 사용자의 상호작용 및 행동에 기반하여 개인화된 광고 콘텐츠를 생성할 수 있습니다. 이는 사용자와의 상호작용을 통해 광고 콘텐츠를 개인화하여 사용자의 참여율과 전환율을 증가시킬 수 있습니다.<figure id="figure-qhwmegoi6gluc7s86q"data-full-width><img id="qhwmegoi6gluc7s86q" src="https://images.unsplash.com/photo-1511296265581-c2450046447d?crop=entropy&cs=tinysrgb&fit=max&fm=jpg&ixid=M3wyNjI5NjF8MHwxfHNlYXJjaHw5fHxnb29nbGUlMjBhZHN8ZW58MHx8fHwxNzExNjg5NTk2fDA&ixlib=rb-4.0.3&q=80&w=1080" alt="google ads, 구글 광고" title="google ads, 구글 광고" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: undefined undefined;" data-corners="default" data-aspect="16:9" data-caption="이미지 출처 : google search" data-positionX="undefined" data-positionY="undefined" data-fullWidth="true"/><figcaption class="body-normal text-gray-500 mt-2">이미지 출처 : google search</figcaption></figure>추가적으로 이러한 광고 기능의 변화에 맞춰, ‘구글’에서 디지털 마케터(퍼포먼스 직무 및 콘텐츠 마케팅 직무 대상자를 일컫음)들이 사용할 수 있는 AI 기반 광고 캠페인 기능'으로는 다음과 같은 것들이 있음을 밝혔습니다.1. 스마트 비딩(Smart Bidding):&nbsp;구글 광고 플랫폼의 중심인 스마트 비딩 기능은 매 순간 최적의 입찰 금액을 결정하기 위해 AI와 머신러닝을 활용합니다. 광고주는 전환율을 최대화하거나 타겟 CPA(광고 비용 대비 획득 고객 비용)를 설정할 수 있으며, 이를 통해 자동으로 입찰 전략을 최적화할 수 있습니다.2. 예측 분석(Predictive Analytics):&nbsp;AI가 수집된 빅데이터를 분석하여, 광고 캠페인의 미래 성능을 예측하고, 고객의 구매 가능성 높은 순간을 예측하여 효과적으로 광고를 타겟팅합니다.3. 고객 맞춤형 경험(Customized Customer Experiences):&nbsp;사용자의 검색 이력과 웹사이트 상의 행동 데이터를 분석하여 개인에게 맞춤화된 광고 메시지를 생성하고, 상황에 맞게 타겟팅하여 효과적으로 광고를 노출합니다.4. 콘텐츠 및 검색 재배열:&nbsp;AI를 사용하여 사용자에게 더 나은 검색 결과와 개인화된 경험을 제공하고, 고객의 반응을 기반으로 콘텐츠와 광고를 적절히 조정합니다.5. Privacy Sandbox:&nbsp;제3자 쿠키를 대체하기 위한 Privacy Sandbox 프로젝트를 통해, 개인정보 보호를 유지하는 동시에 광고주들이 효과적으로 타겟팅하고 성과를 측정할 수 있도록 돕는 새로운 기술을 도입하고 있습니다.스마트 비딩이나 예측 분석과 같은 기능은 구글 광고 캠페인의 중추적인 역할을 하고 있으며, 제3자 쿠키가 점진적으로 사라지는 환경에서도 광고주들이 효율적이고 개인화된 광고를 지속할 수 있도록 구글 광고 플랫폼에서는 지원할 것으로 보입니다(이미 Google Cloud Conf. 에서도 기술적으로 언급한 적이 있죠) AI 기반의 툴과 기법들은 광고 캠페인의 성과를 개선하고, 마케팅 전략을 보다 지능적으로 수립할 수 있는 기회를 마케터에게 제공해야 할 겁니다.&nbsp;위의 Privacy Sandbox는 쿠키를 대체하는 새로운 기술로서 AI를 활용하여 집단 데이터를 분석하여 사용자의 행동을 예측하는 방식으로 광고 타겟팅과 성과 측정을 지원할 것으로 기대됩니다.<table style="border-collapse: collapse; width: 100%;" border="1" data-mce-style="border-collapse: collapse; width: 100%;"><tbody><tr><td style="width: 100%;" data-mce-style="width: 100%;">이미 Meta에서도, Google 에서도 내놓은 Advanced+ / pMax 캠페인 상품/카테고리만 봐도 알 수 있듯이 말이죠.</td></tr><tr><td style="width: 100%;" data-mce-style="width: 100%;">1) Meta reference :<a data-mce-href="https://about.fb.com/news/2023/12/meta-ai-updates/" href="https://about.fb.com/news/2023/12/meta-ai-updates/" target="_blank" rel="noopener">https://about.fb.com/news/2023/12/meta-ai-updates/</a></td></tr><tr><td style="width: 100%;" data-mce-style="width: 100%;">2) Google reference :<a data-mce-href="https://ads.google.com/intl/en_us/home/campaigns/ai-powered-ad-solutions/" href="https://ads.google.com/intl/en_us/home/campaigns/ai-powered-ad-solutions/" target="_blank" rel="noopener"> https://ads.google.com/intl/en_us/home/campaigns/ai-powered-ad-solutions/</a></td></tr></tbody></table>AI는 또한 비용 효과적인 분석 및 최적화 도구로 사용될 수 있습니다. AI를 활용하면 가상의 포커스 그룹과 같은 시간이 많이 소요되고 비용이 많이 드는 프로세스를 자동화하여 보다 신속한 인사이트와 미디어 최적화를 실현할 수 있습니다.결론​쿠키의 사용 중단으로 인한 광고 산업의 변화는 AI를 통해 보다 효율적이고 개인화된 광고 전략을 수립하고 실행할 수 있는 새로운 가능성을 제시하고 있습니다. AI는 쿠키의 종식으로 인한 광고 산업의 도전에 대응하기 위한 강력한 도구로 작용하며, Privacy Sandbox와 같은 새로운 프레임워크와 기술은 광고주들이 이러한 변화에 대응하고 미래의 광고 산업에 발맞출 수 있도록 도와줄 것으로 기대됩니다.위의 모든 내용은 구글을 비롯한 여러 기업의 연구 보고서 및 실전 경험의 결과를 바탕으로 작성되었습니다.긴 글 읽어주셔서 고맙습니다.이러한 환경의 변화에 대해 함께 고민하고, 적용 방안, 마케팅 적으로 접근하고자 하는 팀이라면 이야기 주세요. AGI의 시대에 AI윤리와 Responsible AI, 디지털 마케팅, 콘텐츠, 팀의 성장을 함께 논의 할 수 있는 파트너가 찾아뵙겠습니다.&nbsp;이메일 : chunghyo@troe.kr | 모바일 : 010.9341.7695 트로이 대표 파트너 : 박충효&nbsp;

생성형 AI가 사용 중단되는 '쿠키(cookie)'의 존재를 어떻게 대처, 해결할 수 있을까?

Young asian blogger talking about music while recording video with camera, Chanel

생성형 AI 시대가 되면서, 모두가 쉽게 크리에이터로 진입을 할 수 있는 기회가 오고야 말았습니다. 이미지, 동영상 분야에서 기존의 이해관계자들 보다 더욱 쉽게 디자인, 동영상 제작 및 편집이 가능한 시대가 오고 있는데요. 그에 반해서 콘텐츠를 확산, 노출해주는 빅 브라더 들(Meta, Youtube, Tiktok 등)은 생성형 AI로 생성되는 콘텐츠의 저작권 및 사용자 들에게 노출시 '투명성' 및 '신뢰도'를 강화하기 위한 대응책 들을 강구하고 있습니다.최근 Sora(with OpenAI)가 공개한 일반 크리에이터(아티스트) 들과 공개한 다수의 단편 영상들만 봐도, 앞으로 동영상 크리에이터 시장 판도가 매우 달라질 것이라는 시장 반응이 매우 뜨겁습니다. 달리 이야기 하면, 무분별한 동영상 콘텐츠가 생성형 AI로 탄생되면서 윤리적인 문제도, 자본시장에 충격적인 이슈가 발생될 수 있다는 예측까지 나오고 있는데요. 사실 Sora 프로젝트가 OpenAI가 내부 소수의 멤버들이 진행한(2~3명의 엔지니어) 미니 프로젝트로 불리지만 이러한 결과물이 주는 파급력은 엄청 납니다. OpenAI CTO가 언급한대로 계속 보정하는 작업이 진행중이며, 레드팀(Red Team)이 부정확하며 윤리적으로 민감한 사항 들을 계속 모니터링 하겠지만 아무튼 2024년 하반기에는 Sora의 향방이 일어날 것이라 업계는 주목하고 있죠.관련 글 - <a data-mce-href="https://openai.com/blog/sora-first-impressions" href="https://openai.com/blog/sora-first-impressions" target="_blank" rel="noopener">Sora : First Impression&nbsp;</a>본론으로 바로 이야기하면, 위의 내용과 이어져서 동영상의 대표적인 플랫폼인 'Youtube'가 이러한 시대적 흐름에 크리에이터를 위한 '요구 조건'을 하나 제시했습니다. 그것은 바로 &lt;생성형 AI로 제작되는 영상에 대해 'AI로 제작된 영상입니다' 라는 레이블 - 표기 를 해달라&gt; 라는 권고 사항입니다.주요 내용은 이렇습니다 최근 유튜브는 AI 생성 콘텐츠에 대한 새로운 가이드라인을 발표하며, 크리에이터들에게 새로운 요구사항을 제시했습니다. 이러한 변화는 AI 기술의 발전과 함께 콘텐츠 제작 및 소비 방식에 혁신을 가져오고 있으며, 크리에이터들은 이러한 변화에 주목하고 적응해야 합니다.<figure id="figure-ehkvi9oyfhluamfrpt"><img id="ehkvi9oyfhluamfrpt" src="https://cdn.durable.co/blocks/33iLelVecIl568QMTkoCNVTXUSapoNqHffX75Z0aI4EENHBKqYlPYWRNNt8vdnc9.png" alt="youtube, responsible AI, 유튜브, 책임있는 AI" title="youtube, responsible AI, 유튜브, 책임있는 AI" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: undefined undefined;" data-corners="default" data-aspect="16:9" data-caption="이미지 출처 : youtube blog" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/33iLelVecIl568QMTkoCNVTXUSapoNqHffX75Z0aI4EENHBKqYlPYWRNNt8vdnc9.png" data-mce-style="aspect-ratio: 16/9; object-position: undefined undefined;"><figcaption class="body-normal text-gray-500 mt-2">이미지 출처 : youtube blog</figcaption></figure>유튜브가 제시한 'AI 생성 콘텐츠에 대한 새로운 정책'- 발표된 핵심 내용(1) : <a href="https://blog.youtube/news-and-events/disclosing-ai-generated-content/" data-mce-href="https://blog.youtube/news-and-events/disclosing-ai-generated-content/">https://blog.youtube/news-and-events/disclosing-ai-generated-content/</a>- 위의 핵심 내용과 연관된 기사 내용(2) : https://www.socialmediatoday.com/news/youtube-launches-ai-disclosure-requirements-uploads/710622/유튜브는 AI로 생성된 콘텐츠의 투명성을 높이기 위해 새로운 라벨링 시스템을 도입했습니다. 이는 사용자들이 보고 있는 콘텐츠가 AI에 의해 생성되었는지 여부를 쉽게 알 수 있도록 하여, 콘텐츠의 신뢰성을 높이고 딥페이크와 같은 문제를 방지하는 데 목적이 있습니다.- 국내 사례 하나 : <a data-mce-href="https://www.kakaocorp.com/page/detail/10943" href="https://www.kakaocorp.com/page/detail/10943" target="_blank" rel="noopener">카카오의 딥페이크 허위 조작 정보 근절(with 국회의원 선거 관련)</a>그렇다면, 유튜브에서 요청하는 '주요 요구사항'은 무엇인가?<table style="border-collapse: collapse; width: 100%;" border="1" data-mce-style="border-collapse: collapse; width: 100%;"><tbody><tr><td style="width: 30%;" data-mce-style="width: 30%;">요구사항</td><td style="width: 50%;" data-mce-style="width: 50%;">주요 내용</td></tr><tr><td style="width: 30%;" data-mce-style="width: 30%;">AI 생성 콘텐츠에 대한 라벨 표기</td><td style="width: 50%;" data-mce-style="width: 50%;">크리에이터는 AI 도구를 사용하여 현실적으로 변경되거나 합성된 콘텐츠를 생성했을 때 이를 공개해야 합니다. 특히, 선거, 진행 중인 갈등, 공중 보건 위기, 공공 인물 등 민감한 주제에 대한 내용이 포함될 수 있습니다</td></tr><tr><td style="width: 30%;" data-mce-style="width: 30%;">콘텐츠 삭제 및 수익 창출 정지</td><td style="width: 50%;" data-mce-style="width: 50%;">(유튜브에서 제시한) 규정을 위반한 콘텐츠는 삭제될 수 있으며, 반복적인 위반 시 수익 창출이 중단될 수 있습니다</td></tr><tr><td style="width: 30%;" data-mce-style="width: 30%;">라벨링 도구의 도입</td><td style="width: 50%;" data-mce-style="width: 50%;">유튜브는 크리에이터가 콘텐츠 업로드 시 AI 생성 콘텐츠에 대한 라벨을 쉽게 붙일 수 있는 도구를 출시했습니다. 이 도구는 크리에이터가 콘텐츠가 AI로 생성되었음을 명확하게 표시할 수 있도록 지원합니다</td></tr></tbody></table>이러한 요구 사항에 맞춰, 과연 크리에이터는 무엇을 할 수 있을까요?(with 크리에이터가 취해야 할 조치)<table style="border-collapse: collapse; width: 100%;" border="1" data-mce-style="border-collapse: collapse; width: 100%;"><tbody><tr><td style="width: 30%;" data-mce-style="width: 30%;">실제 액션 아이템</td><td style="width: 50%;" data-mce-style="width: 50%;">주요 내용</td></tr><tr><td style="width: 30%;" data-mce-style="width: 30%;">AI 생성 콘텐츠 식별</td><td style="width: 50%;" data-mce-style="width: 50%;">크리에이터는 자신의 콘텐츠가 AI로 생성되었는지 여부를 정확하게 식별해야 합니다(다수의 크리에이터가 자체 생산하겠지만, 일부 수익성을 목적으로 생성형 AI로 동영상을 제작하는 경우가 많아지면서 일어난 배경)이는 콘텐츠의 신뢰성을 유지하고 사용자의 오해를 방지하는 데 중요합니다</td></tr><tr><td style="width: 30%;" data-mce-style="width: 30%;">라벨 부착</td><td style="width: 50%;" data-mce-style="width: 50%;">AI 생성 콘텐츠를 업로드할 때는 유튜브가 제공하는 라벨링 도구를 사용하여 적절한 라벨(해당 옵션이 곧 적용)을 부착해야 합니다. 이는 사용자에게 콘텐츠의 출처와 생성 방식에 대한 투명한 정보를 제공합니다</td></tr><tr><td style="width: 30%;" data-mce-style="width: 30%;">커뮤니티 가이드라인 준수</td><td style="width: 50%;" data-mce-style="width: 50%;">모든 콘텐츠는 유튜브의 커뮤니티 가이드라인을 준수해야 합니다. 또한, AI 생성 콘텐츠라 할지라도, 가이드라인을 위반하는 콘텐츠는 플랫폼에서 삭제될 수 있습니다(새롭게 반영된 내용을 반드시 숙지, 2023년 버전)</td></tr></tbody></table>위의 커뮤니티 가이드라인 이외에, AI 기반의 영상 콘텐츠에 대한 유튜브의 목적성이 뚜렷한 내용이 2023년에 Responsible AI에 준하여 발표가 된 바 있습니다.- 관련 내용 : <a href="https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/" data-mce-href="https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/">https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/</a>&nbsp;이렇게, 유튜브는 AI 기술의 발전에 따라 (동영상) 콘텐츠 제작에 새로운 가능성을 열어주고 있습니다. 단, 기술적인 발전에 따라 이를 악용하거나 이용할 시에 일어날 수 있는 무게감에 대해서 선제적으로 대응하는 모습을 보여주는 것인데요. 과거 facebook이 Cambridge Analytica Issue로 미국 정부와 국민, 그리고 범용적인 사용자를 대상으로 'Sorry'를 외치면서 Privacy를 강화하며 플랫폼 알고리즘 까지 변경한 사례를 다시 생각해보면 될 것 같습니다. 유튜브의 이러한 새로운 책임과 요구사항에 대해서 동영상 제작자, 크리에이터들은 유튜브의 최신 AI 요청사항을 숙지하고, 이를 기술적으로 적용하여 콘텐츠의 투명성과 신뢰성을 유지하는 데 주력해야 할 것입니다.<figure id="figure-icpgt9vofddluampc3c" class=""><img id="icpgt9vofddluampc3c" src="https://cdn.durable.co/blocks/2Jlp1QINNJDsqClX4SYlfPp3BDdhXAIYG5gftHQPUZvjFSxhEcvfkTWc97E7jhXe.png" alt="youtube, label, responsible AI, 책임있는 AI" title="youtube, label, responsible AI, 책임있는 AI" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: center center;" data-corners="default" data-aspect="16:9" data-caption="이미지 출처 : youtube blog" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/2Jlp1QINNJDsqClX4SYlfPp3BDdhXAIYG5gftHQPUZvjFSxhEcvfkTWc97E7jhXe.png" data-mce-style="aspect-ratio: 16/9; object-position: center center;"><figcaption class="body-normal text-gray-500 mt-2">이미지 출처 : youtube blog</figcaption></figure>이러한 환경 변화에 맞춰, AI 기술을 적용하는 유튜브 콘텐츠 제작자가 고려해야 하는 주요 사항은 무엇일지 생각해본다면 원문의 기사를 기반으로 아래와 같이 정리해보겠습니다.1. 라벨 지정 의무화: 제작자는 동영상 업로드 시 현실적인 생성 AI 콘텐츠에 라벨을 지정해야 합니다. 이는 특히 선거나 진행 중인 갈등과 같은 민감한 주제에서 중요합니다2. 공개 요구 사항 준수: 유튜브는 생성형 AI 제품 및 기능으로 제작된 콘텐츠에 합성 또는 변형되었다는 라벨을 붙여 명확하게 공개하도록 요구합니다3. 커뮤니티 가이드라인 준수: 유튜브에 업로드되는 모든 콘텐츠는 생성 방법에 관계없이 유튜브의 커뮤니티 가이드라인의 적용을 받습니다4. 변경되거나 합성된 콘텐츠에 대한 투명성: 크리에이터는 AI 도구 사용 등을 통해 변형되었거나 합성된 사실적인 콘텐츠를 제작한 경우, 이러한 사실을 공개하도록 요청받습니다[6].5. 콘텐츠 삭제 및 수익 창출 중단 위험: 라벨을 지정하지 않거나 가이드라인을 준수하지 않을 경우, 게시 중단, 수익 창출 중단 등의 다양한 처벌이 조치될 수 있습니다6. 개인 정보 보호 및 저작권 존중: AI로 생성되거나 다른 방식으로 합성 또는 변형된 콘텐츠에서 신원 파악이 가능한 개인을 모방한 경우, 개인 정보 침해 신고 절차에 따라 콘텐츠 삭제를 요청할 수 있습니다7. AI 기술의 책임감 있는 사용: 유튜브는 생성형 AI가 창의력을 촉진하고 사용자 경험을 변화시킬 수 있는 잠재력을 인정하면서도, 커뮤니티를 보호해야 할 책임과 균형을 이루어야 한다고 강조합니다<figure id="figure-xiie3cpmipluan4pw8" data-full-width=""><iframe id="xiie3cpmipluan4pw8" src="https://www.youtube.com/embed/KcUQmhskXiI" class="w-full bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9;" allowfullscreen="" data-url="https://www.youtube.com/watch?v=KcUQmhskXiI" data-corners="default" data-fullwidth="true" data-mce-src="https://www.youtube.com/embed/KcUQmhskXiI" data-mce-style="aspect-ratio: 16/9;"></iframe></figure>이러한 사항들은 유튜브 콘텐츠 제작자가 AI 기술을 적용할 때 반드시 고려해야 할 중요한 요소들 일겁니다. 특히, 유튜브 플랫폼 입장에서 위의 내용들을 통해 건전한 정보 생태계를 유지하고, 시청자를 오도하거나 심각한 피해를 초래할 수 있는 기술적으로 조작된 콘텐츠를 방지하려고 할 것입니다.AI 시대가 오면서 누구나 콘텐츠 접근성이 편해지고, 장벽이 무너진 것은 사실 입니다. 하지만 각각의 이해 관계자들이 많이 있는 상황에서 더욱더 윤리적인 면이 강화될 텐데요. 특히 콘텐츠를 제작하고, 이를 유통하면서 자본시장 및 마케팅 환경에서 일을 하는 종사자 라면 이러한 내용들을 기반으로 플랫폼의 커뮤니티 정책 및 가이드라인을 준수하는 것은 매우 중요한 문제 입니다.매우 예민한 주제, 투명성을 지키는 책무, 콘텐츠를 명확하게 분류(공개 / 비공개), 또한 새로운 기능이 공개될 때 그에 대한 적정성을 판단하는 것도 마케팅 업무의 단일적인 것을 떠나서 비즈니스 적인 안정적 운영 측면을 고려해서 항상 판단해야 하는 항목일 겁니다.결국, 플랫폼은 창작자 - 시청자(또는 사용자) 간의 신뢰를 기반으로 시스템이 돌아간다는 것을 명확하게 인지해주길 항상 언급하고 있다는 것을 명심해야 할겁니다. 생성형 AI가 만든 시대적인 숙제는 이제부터가 시작이 아닐까 합니다.이러한 내용을 기반으로, 마케팅 현장에서 콘텐츠 제작시 명확한 가이드라인과 정책을 준수하면서 크리에이티브의 경계를 정리하는 팀과 함께 일하는 것도 또 하나의 방법이 아닐까 합니다!긴 글 읽어주셔서 고맙습니다.<figure id="figure-9qcx9vnlhalvxxbc0r"><img id="9qcx9vnlhalvxxbc0r" src="https://cdn.durable.co/blocks/1djWiwnTQFnWh4NjbKdfn6jyBoeXT40xklvDFEfoRgCxxdMseWRdugjfiKHkrPg4.png" alt="트로이 주요 서비스, 트로이 서비스 설명, 트로이 서비스 안내, 트로이 마케팅 자문 서비스, 트로이 박충효 서비스, 박충효 대표 파트너 마케팅 자문 서비스" title="트로이 주요 서비스, 트로이 서비스 설명, 트로이 서비스 안내, 트로이 마케팅 자문 서비스, 트로이 박충효 서비스, 박충효 대표 파트너 마케팅 자문 서비스" class="object-cover bg-gray-100 rounded-sm md:rounded-md lg:rounded-lg" style="aspect-ratio: 3/2; object-position: center center;" data-corners="small" data-aspect="3:2" data-caption="" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/1djWiwnTQFnWh4NjbKdfn6jyBoeXT40xklvDFEfoRgCxxdMseWRdugjfiKHkrPg4.png" data-mce-style="aspect-ratio: 3/2; object-position: center center;"></figure>변화하는 Tech-Generation 시대에 생성형 AI(Generative AI)를 기반으로 AI와 마케팅, 그리고 AGI의 시대에 AI윤리와 Responsible AI, 마케팅 플랫폼, 디지털 마케팅, 콘텐츠, 팀의 성장을 함께 논의 하면서 비즈니스 역량에 AI를 추가하고, 활용할 수 있는 기회를 찾고 싶으신 파트너가 있으시다면 언제든지 연락주세요. 찾아뵙고 성장 및 활용 범위를 함께 논의 가능합니다!함께 스터디 하고, 미래 비전을 논의하고 싶은 관심있는 '일반 개인'의 연락 또한 좋습니다!트로이, 대표 파트너 - 박충효 드림

유튜브, 생성형 AI로 생성된 영상에 대한 별도의 레이블 요구 조건 제시

MacBook Pro, white ceramic mug,and black smartphone on table

YouTube, the world's largest video-sharing platform, has recently implemented new AI disclosure requirements aimed at increasing transparency and accountability. These changes have sparked discussions and raised questions among content creators and viewers alike. In this post, we will delve into the details of YouTube's new AI disclosure requirements to demystify what they mean for users.<h2>Understanding the Purpose of AI Disclosure</h2>YouTube's AI disclosure requirements are designed to provide users with more visibility into how artificial intelligence is being used on the platform. By disclosing information about AI technologies, YouTube aims to enhance trust and empower users to make informed decisions about the content they consume.<h3>Key Points to Note</h3><ul><li>Content recommendations are driven by AI algorithms.</li><li>AI helps in content moderation and enforcement of community guidelines.</li><li>AI plays a role in personalized advertising on the platform.</li></ul>These AI-driven processes impact the content users see, the ads they are served, and the overall user experience on YouTube.<h2>What Content Creators Need to Know</h2>For content creators, understanding YouTube's AI disclosure requirements is crucial for optimizing their content strategy and engagement with their audience. By knowing how AI influences content distribution and viewership, creators can tailor their content to better reach their target audience.It is important for creators to stay informed about how AI may affect their content's visibility and performance on the platform. By leveraging this knowledge, creators can adapt their strategies to align with YouTube's AI-driven ecosystem.<h2>Implications for Viewers</h2>Viewers play a vital role in the success of content on YouTube. Understanding the role of AI in content recommendations and moderation can help viewers make more informed choices about the content they consume. By being aware of how AI shapes their viewing experience, viewers can navigate the platform more effectively.Viewers may notice changes in the content recommended to them based on AI algorithms. These recommendations are tailored to individual preferences and viewing habits, enhancing the overall user experience.<h2>Transparency and Accountability</h2>YouTube's emphasis on AI disclosure reflects a broader trend towards transparency and accountability in the tech industry. By being transparent about the use of AI technologies, YouTube is setting a precedent for other platforms to follow suit.Transparency fosters trust between platforms, content creators, and viewers, leading to a more positive and engaging user experience. As AI continues to play a significant role in online content consumption, transparency becomes increasingly important.As YouTube's new AI disclosure requirements take effect, users can expect greater transparency and insights into how AI shapes their experience on the platform. By understanding these changes, content creators and viewers can navigate YouTube's ecosystem with enhanced knowledge and awareness.Reference link(1) : <a href="https://blog.youtube/news-and-events/disclosing-ai-generated-content/">https://blog.youtube/news-and-events/disclosing-ai-generated-content/</a>Reference link(2) : <a href="https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/">https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/</a>&nbsp;Reference link(3) : <a href="https://www.socialmediatoday.com/news/youtube-launches-ai-disclosure-requirements-uploads/710622/">https://www.socialmediatoday.com/news/youtube-launches-ai-disclosure-requirements-uploads/710622/</a>&nbsp;

YouTube Creator Attention, New AI Disclosure Requirements

어김없이 봄의 기운이 시작되고 있는 3월의 마지막 주간 입니다(이 글을 쓰는 시점이 3월 27일, 2024년). 2023년을 시작으로 2024년 현재까지 마케팅 업계에도 AI로 인해서 많은 변화들이 넘쳐나고 있는데요.&nbsp;그 과정 속에서 트로이(TROE)가 제공 해드리는 '디지털 커뮤니케이션 및 마케팅 전반, 전략 및 기획, 실행 프로그램 서포트 기반의 자문' 서비스도 변화들을 취하고 있습니다. 특히 생성형 AI와 일반 인공지능(AGI) 업계가 떠오르면서 해당 기업들의 기술 기반, 기술을 대외적으로 커뮤니케이션, 별도의 B2B 및 B2C 타겟 대상의 커뮤니케이션을 위한 마케팅 니즈들이 끊임없이 생겨나고 있다고 판단됩니다.<figure id="figure-vm1w4qj70dlu9us4pd"><img id="vm1w4qj70dlu9us4pd" src="https://images.unsplash.com/photo-1552960394-c81add8de6b8?crop=entropy&amp;cs=tinysrgb&amp;fit=max&amp;fm=jpg&amp;ixid=M3wyNjI5NjF8MHwxfHNlYXJjaHwyOHx8Y2xpZW50fGVufDB8fHx8MTcxMTU0NjgzMHww&amp;ixlib=rb-4.0.3&amp;q=80&amp;w=1080" alt="smiling man beside writing person" title="smiling man beside writing person" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: center center;" data-corners="default" data-aspect="16:9" data-caption="" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://images.unsplash.com/photo-1552960394-c81add8de6b8?crop=entropy&amp;cs=tinysrgb&amp;fit=max&amp;fm=jpg&amp;ixid=M3wyNjI5NjF8MHwxfHNlYXJjaHwyOHx8Y2xpZW50fGVufDB8fHx8MTcxMTU0NjgzMHww&amp;ixlib=rb-4.0.3&amp;q=80&amp;w=1080" data-mce-style="aspect-ratio: 16/9; object-position: center center;"></figure>이러한 변화 속에서 디지털 전반의 서비스 제공 및 대외적인 커뮤니케이션의 기반을 만들어 가는 'AI 기반 마케팅 커뮤니케이션 서비스 - AI 마케팅 커뮤니케이터 이자 AI 마케팅 코디네이터(AI MARKETING COMMUNICATOR &amp; CORDINATOR)'로서의 포지션으로 서비스를 제공해드리고자 합니다.- 서비스 문의(연락처 및 문의 사항 기재 필요) : 이메일 <a data-mce-href="mailto:chunghyo@troe.kr" href="mailto:chunghyo@troe.kr" target="_blank" rel="noopener">chunghyo@troe.kr</a>기존, 카카오 계열사 중 AI 기술 및 제품을 개발하는 '카카오브레인(KAKAO BRAIN)'의 &gt;디지털 커뮤니케이션 가이드라인(거버넌스)구축 프로젝트&gt;와 &lt;디지털 커뮤니케이션 콘텐츠 개발 프로젝트&gt;를 수행하면서 AI 기술을 이해관계자(타겟 및 잠재 고객, 그 밖의 기술 연관 대상자)에게 노출, 인지, 홍보 하는 작업 뿐만 아니라 그 밖의 대외적인 업무들을 함께 수행하고 있습니다.이러한 최근의 업무 내용을 기반으로 기존의 다양한 프로젝트(브랜드 마케팅, 콘텐츠 마케팅, 크로스보더 커머스 기반의 퍼포먼스 마케팅, 워크샵, 교육, 코칭 및 자문, 국내 시총 탑티어 30위 이내의 기업들의 디지털 커뮤니케이션 업무)를 하면서 얻은 노하우로 다양한 경험을 가지고 있는데요.트로이 대표 파트너가 위의 배경에 맞춰서 서비스를 제공해드리고자 합니다.현재의 비즈니스에서 '디지털 마케팅' 실행 업무를 하는데 있어, 함께 하고자 하는 마케팅 파트너, 소규모 에이전시, 자문 파트너 또는 디지털 팀의 트레이닝 및 조언 업무가 필요하시면 언제든지 찾아주세요.- 대표 파트너 : <a data-mce-href="https://search.naver.com/search.naver?where=nexearch&amp;sm=top_hty&amp;fbm=0&amp;ie=utf8&amp;query=%EB%B0%95%EC%B6%A9%ED%9A%A8" href="https://search.naver.com/search.naver?where=nexearch&amp;sm=top_hty&amp;fbm=0&amp;ie=utf8&amp;query=%EB%B0%95%EC%B6%A9%ED%9A%A8" target="_blank" rel="noopener">박충효(네이버 검색에서 '박충효' 검색 가능)</a>&nbsp;의 <a data-mce-href="https://www.linkedin.com/in/saewookkangboy/" href="https://www.linkedin.com/in/saewookkangboy/" target="_blank" rel="noopener">링크드인</a>- <a data-mce-href="https://troe.kr/services" href="https://troe.kr/services" target="_blank" rel="noopener">트로이의 과거 업무 포트폴리오</a>팀의 성장을 위해 도움을 드릴 수 있는 파트너로 함께 하겠습니다.자문하고, 함께 실행하며, 성장하는 트로이. 끝까지 읽어주셔서 고맙습니다. 트로이 대표 파트너, 박충효 드림

새로운 파트너를 찾고 있습니다(with 대표 파트너 소개)

<figure id="figure-l8c3egdkoultpuinff" class="selected"><img id="l8c3egdkoultpuinff" src="https://cdn.durable.co/blocks/2dk0wUba6h2eITmY9cIU1gex1z5DQbc5FTw5gCzKdZXWy5GBAzpassQTC4sWsAAp.png" alt="Microsoft, copilot" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: undefined undefined;" data-corners="default" data-aspect="16:9" data-caption="CNBC, Microsoft image problem Issue" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/2dk0wUba6h2eITmY9cIU1gex1z5DQbc5FTw5gCzKdZXWy5GBAzpassQTC4sWsAAp.png" data-mce-style="aspect-ratio: 16/9; object-position: undefined undefined;"><figcaption class="body-normal text-gray-500 mt-2">CNBC, Microsoft image problem Issue</figcaption></figure>우려한 일이 터져나왔습니다. 인간이 의도한 것이든, 의도하지 않은 것이든, 생성형 AI를 기반으로 이미지를 생성해주는 과정에서 의도적인 프롬프트를 넣었을 때 그에 따른 결과물이 나올 수 있다는 사실이 밝혀진 것인데요.매우 극단적인 표현으로 보일 수 있지만, 마이크로소프트 생성형 AI인 코파일럿(Copilot) 개발자가 AI 거버넌스(Policy, Guidance)를 벗어난 결과물이 나온 것으로 미국 행정 감독 기관에 신고하면서 크게 이슈가 되었습니다.바로, 아래의 이슈가 CNBC 방송으로 즉각 나오게 된 것인데요. 이러한 뉴스가 나오면서 마이크로소프트(이하 MS) 주가는 하락세로 돌아섰다고 합니다.<figure class=""><img id="alggafigroltpupp79" src="https://cdn.durable.co/blocks/d2Ylt0krkUYMPQ6fE3oiNPItM1JjTKujzugCxYRT9FKCb9fP2g2KGtgJKDULl1yj.png" alt="orange megaphone on orange wall" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl selected" style="aspect-ratio: 16/9; object-position: center center;" data-corners="default" data-aspect="16:9" data-caption="" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/d2Ylt0krkUYMPQ6fE3oiNPItM1JjTKujzugCxYRT9FKCb9fP2g2KGtgJKDULl1yj.png" data-mce-style="aspect-ratio: 16/9; object-position: center center;"></figure>주요 내용인 즉슨,&nbsp;Microsoft는 AI 엔지니어(Shane Jones)의 확인 작업을 통해서 Copilot의 이미지 생성 AI를 조사한 후 생성형 AI 서비스 상에 기술적인 가드레일(기준 사항)에 변경 사항을 가했음Copilot은 사용자들이 텍스트 프롬프트를 입력하여 이미지를 생성하는 AI 도구인데, 최근 해당 도구에서 정책 위반으로 인한 경고와 차단이 이루어졌음. 그 이후, Microsoft는 안전 필터를 강화하고 시스템의 남용을 완화하기 위해 지속적으로 모니터링, 조정 및 추가 제어 조치를 취하고 있다이번 기술적인 조치 사항에는 '이미지 생성시' 미성년자가 포함된 폭력적인 장면이나 미성년자들이 총을 들고 게임하는 모습을 요청할 경우 즉시 차단될 수 있도록 하고, 특히 AI 도구 남용을 방지하고 정책을 준수하기 위해 더 강력한 안전 필터를 도입하기로 함. 이에 따라 (Copilot을 사용하는) 사용자들의 오용을 감지하면 보고할 수 있도록 안내하고 있음Copilot은 사용자들의 텍스트 프롬프트를 입력받아 이미지를 생성하는데, CNBC가 수행한 테스트에서 몇 가지 문제가 여전히 존재하는 것으로 나타났다는 내용이러한 내용이 바로 아래의 Youtube 내용입니다.<figure id="figure-zu6n6zta9ltpu6u7v" data-full-width="" class=""><iframe id="zu6n6zta9ltpu6u7v" src="https://www.youtube.com/embed/rZGP_AVHzu8" class="w-full bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9;" allowfullscreen="" data-url="https://www.youtube.com/watch?v=rZGP_AVHzu8" data-corners="default" data-fullwidth="true" data-mce-src="https://www.youtube.com/embed/rZGP_AVHzu8" data-mce-style="aspect-ratio: 16/9;"></iframe></figure>본 영상에서 다루는 이번 MS의 이미지 생성 상의 이슈는 bing &gt; Copilot의 이미지 생성 서비스의 사용 규정 상 매우 민감한 사항을 위반 한 것이고, 사용자가 일부 프롬프트를 사용하여 이미지 생성 요청을 할때, 사용 규정에 준한 사항을 필터링 하지 않고 그대로 나오게 되는 위험한 상황이 발생되었다는 거죠.특히, 성적인 내용 이라던지 혹은 정치적인 상황에 대한 민감한 부분. 그리고 저작권을 보호하지 않은채 그대로 결과값으로 이미지 생성 AI 결과물로 나오게 하는 내용등.<figure id="figure-ciufq1c3jpltpv4o6v"><img id="ciufq1c3jpltpv4o6v" src="https://cdn.durable.co/blocks/33n2vzGD5vvaHYrjE3mHx1Y383hjVmhnzJsBvU9IkupBibhWZ33s4pxTV8zKLXTY.png" alt="Microsoft, copilot" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: undefined undefined;" data-corners="default" data-aspect="16:9" data-caption="CNBC, Microsoft image problem Issue" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/33n2vzGD5vvaHYrjE3mHx1Y383hjVmhnzJsBvU9IkupBibhWZ33s4pxTV8zKLXTY.png" data-mce-style="aspect-ratio: 16/9; object-position: undefined undefined;"><figcaption class="body-normal text-gray-500 mt-2">CNBC, Microsoft image problem Issue</figcaption></figure>국내의 네이버 또는 카카오 또한 이러한 민감한 '책임감 있는 AI' 또는 '책임있는 AI'에 집중하고 있는데요. 콘텐츠 저작권 뿐만 아니라, 성적인, 정치적이며 민감한 사항, 특정 인물을 비난하는 등의 비윤리적인 상황에 대해서 AI가 자발적으로 결과값을 통제하거나 혹시 일부의 장벽을 주어서 사용자에게 경고문을 강제적으로 표시하는 것 들에 대한 규칙 적용들을 하고 있는 것으로 알고 있습니다.&nbsp;분명, 할루시네이션도 민감한 사항이지만 이번과 같은 MS Copilot이 일으킨 문제 - 특히 AI 엔지니어 스스로가 미국 행정 당국에 이 소식을 알리고 바로 강력한 필터링 및 기술적 조치를 취하는 과정 까지의 프로세스는 매우 당연한 조치 입니다. 특히 Red-Team이 존재하여 이러한 모니터링 및 후속 조치를 취하는 것이 있어야 겠지만, 프롬프트 상에서 사용자가 무의식 적으로 반영하는 텍스트 조합에서도 분명 규제가 있어야 되겠죠.(이번 사건의 경우, Pro Choice, Pro choc, four twenty 등의 단어 프롬프트에 문제가 있었고, 이후 Pro life 같은 단어들은 사용될 수 없도록 했다고 합니다)&lt; 개인적인 의견 &gt;마케터 입장에서, 생성형 AI 서비스를 사용하는 입장에서도 이러한 부분 들을 테스트 삼아 하는 것은 AI를 학습 시키는 단계라고 생각하겠지만 이러한 작업들이 수백, 수천, 수만, 수천만 사용자들이 동시에 진행할때 서비스 및 제품 상에서 어떻게 대응하여 적용될지도 매우 궁금한 사항입니다.프롬프트를 강제하는 정책, 필터 등을 강화하는 것도 있을 텐데요. 이번 Copilot의 경우"콘텐츠 정책과 충돌할 수 있으므로 시스템이 자동으로 이 프롬프트에 플래그를 지정했습니다. 더 많은 정책 위반으로 인해 자동으로 액세스 권한이 정지될 수 있습니다. 실수라고 생각되면 신고하여 개선에 도움을 주세요." 이러한 메시지를 노출하는 것에서 그쳤다면 이제는 "죄송하지만 이러한 이미지를 생성할 수 없습니다. 이는 윤리적 원칙과 Microsoft의 정책에 위배됩니다. 다른 사람에게 해를 끼치거나 불쾌감을 줄 수 있는 행동을 부탁하지 마세요. 협조해 주셔서 감사합니다."<figure id="figure-o9x2zuaeavltpvj251"><img id="o9x2zuaeavltpvj251" src="https://cdn.durable.co/blocks/3bEW1WR2aHtUJiseT1j9YMaUWkUCNWTBUPb3iOAVOpfx2zAUCrxowTBR8G01mITz.png" alt="bing, policy" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: undefined undefined;" data-corners="default" data-aspect="16:9" data-caption="bing > image creator 규정(출처 bing.com)" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/3bEW1WR2aHtUJiseT1j9YMaUWkUCNWTBUPb3iOAVOpfx2zAUCrxowTBR8G01mITz.png" data-mce-style="aspect-ratio: 16/9; object-position: undefined undefined;"><figcaption class="body-normal text-gray-500 mt-2">bing &gt; image creator 규정(출처 bing.com)</figcaption></figure>여러가지 형태로 경고 메시지나, 생성형 AI 서비스의 권한 통제를 위해서 사용자에게 경고 - 특히 책임있는 AI에 준하여 메시지를 전달하는 선에서 사용자에게 프롬프트 통제를 진행할 수 있음을 관련 기사에서 알려주고 있습니다.AI가 자발적으로 통제하느냐, 아니면 여러가지 위협적인 상황이나 사용자에게 비윤리적으로 경고를 주는 알림으로 우회하느냐 는 계속되는 논쟁거리가 될 것 같습니다. 생성형 AI 서비스를 모두가 이 부분에 대해서는 사용자 입장에서, 콘텐츠 공급자 입장에서 함께 고민해볼 재미난 이슈가 될 것 같습니다.[관련기사] <a data-mce-href="https://www.cnbc.com/2024/03/08/microsoft-blocking-terms-that-cause-its-ai-to-create-violent-images.html" href="https://www.cnbc.com/2024/03/08/microsoft-blocking-terms-that-cause-its-ai-to-create-violent-images.html" target="_blank" rel="noopener">Microsoft begins blocking some terms that caused its AI tool to create violent, sexual images</a>[참고자료 (1) - 이미지 규정] <a data-mce-href="https://www.bing.com/new/termsofuseimagecreator#content-policy" href="https://www.bing.com/new/termsofuseimagecreator#content-policy" target="_blank" rel="noopener">Image Creator Policy</a>[참고자료 (2) - Microsoft의 Responsible and Policy] <a data-mce-href="https://www.microsoft.com/en-us/ai/principles-and-approach" href="https://www.microsoft.com/en-us/ai/principles-and-approach" target="_blank" rel="noopener">The Microsoft Responsible AI Standard</a>---이러한 환경의 변화에 대해 함께 고민하고, 적용 방안, 마케팅 적으로 접근하고자 하는 팀이라면 이야기 주세요. AGI의 시대에 AI윤리와 Responsible AI, 디지털 마케팅, 콘텐츠, 팀의 성장을 함께 논의 할 수 있는 파트너가 찾아뵙겠습니다.&nbsp;이메일 : chunghyo@troe.kr | 모바일 : 010.9341.7695 트로이 대표 파트너 : 박충효&nbsp;

MS 코파일럿(Copilot), AI정책을 위반한 사실을 엔지니어가 밝혀내다!

<figure id="figure-9mmzkc9v48kltoia4sz" class="selected"><img id="9mmzkc9v48kltoia4sz" src="https://cdn.durable.co/blocks/135VcvWgQClAMl4iSnTWjxfqzD3vGynndSTmHDj9kT97U7LUxQOTvpGeUuLW6B6b.png" alt="BBC, AI Guidance" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: undefined undefined;" data-corners="default" data-aspect="16:9" data-caption="BBC Guidance: The use of Artificial Intelligence" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/135VcvWgQClAMl4iSnTWjxfqzD3vGynndSTmHDj9kT97U7LUxQOTvpGeUuLW6B6b.png" data-mce-style="aspect-ratio: 16/9; object-position: undefined undefined;"><figcaption class="body-normal text-gray-500 mt-2">BBC Guidance: The use of Artificial Intelligence</figcaption></figure>생성형 AI 기업과 미디어 기업간의 소송 이슈가 뜨거운 감자로 업계의 화두가 되고 있는 지금(<a href="https://www.google.com/search?q=%EB%89%B4%EC%9A%95%ED%83%80%EC%9E%84%EC%8A%A4+%EC%98%A4%ED%94%88AI%EC%9D%98+%EC%86%8C%EC%86%A1&amp;newwindow=1&amp;sca_esv=7479081811d2e948&amp;sxsrf=ACQVn089mT6qesloqcBaYCv3vdysxpJmzA%3A1710256253857&amp;ei=fXDwZePxM5uivr0PoOK0KA&amp;udm=&amp;ved=0ahUKEwijpPGDge-EAxUbka8BHSAxDQUQ4dUDCBA&amp;uact=5&amp;oq=%EB%89%B4%EC%9A%95%ED%83%80%EC%9E%84%EC%A6%88%EC%99%80+%EC%98%A4%ED%94%88AI%EC%9D%98+%EC%86%8C%EC%86%A1&amp;gs_lp=Egxnd3Mtd2l6LXNlcnAiJeuJtOyale2DgOyehOymiOyZgCDsmKTtlIhBSeydmCDshozshqFItwJQAFgAcAB4AJABAJgBgAGgAYABqgEDMC4xuAEDyAEAmAIAoAIAmAMAiAYBkgcAoAct&amp;sclient=gws-wiz-serp#ip=1" target="_blank" rel="noopener" data-mce-href="https://www.google.com/search?q=%EB%89%B4%EC%9A%95%ED%83%80%EC%9E%84%EC%8A%A4+%EC%98%A4%ED%94%88AI%EC%9D%98+%EC%86%8C%EC%86%A1&amp;newwindow=1&amp;sca_esv=7479081811d2e948&amp;sxsrf=ACQVn089mT6qesloqcBaYCv3vdysxpJmzA%3A1710256253857&amp;ei=fXDwZePxM5uivr0PoOK0KA&amp;udm=&amp;ved=0ahUKEwijpPGDge-EAxUbka8BHSAxDQUQ4dUDCBA&amp;uact=5&amp;oq=%EB%89%B4%EC%9A%95%ED%83%80%EC%9E%84%EC%A6%88%EC%99%80+%EC%98%A4%ED%94%88AI%EC%9D%98+%EC%86%8C%EC%86%A1&amp;gs_lp=Egxnd3Mtd2l6LXNlcnAiJeuJtOyale2DgOyehOymiOyZgCDsmKTtlIhBSeydmCDshozshqFItwJQAFgAcAB4AJABAJgBgAGgAYABqgEDMC4xuAEDyAEAmAIAoAIAmAMAiAYBkgcAoAct&amp;sclient=gws-wiz-serp#ip=1">오픈AI와 뉴욕타임즈 간의 소송 - 출처, 구글</a>) '뉴욕타임스는 오픈AI가 뉴욕타임스의 기사를 GPT 모델 훈련에 사용하고, 답변 생성에 기사를 그대로 노출하며, 잘못된 정보로 명예를 훼손했다고 주장' 하는 이야기 속에서 많은 미디어 기업 뿐만 아니라, 콘텐츠를 생성하는 '콘텐츠 크리에이터'마저도 생성형 AI에게 '콘텐츠 도둑질'을 당하는 것이 아니냐 하는 이야기 까지 나오고 있습니다.이러한 환경에서, 영국의 국영방송인 BBC가 AI를 앞에 세우고 실제 방송 편성 및 미디어 활용에 있어서 'AI를 어떻게 활용하고, 책임있는 AI를 위한 가이드라인을 정리'하는 입장 표명을 온라인으로 공식적으로 밝혔습니다.타이틀은 '<a data-mce-href="https://www.bbc.co.uk/editorialguidelines/guidance/use-of-artificial-intelligence/" href="https://www.bbc.co.uk/editorialguidelines/guidance/use-of-artificial-intelligence/" target="_blank" rel="noopener">BBC Guidance : The Use of Artifical Intelligence'</a> 인데요. 총 9개의 목차의 내용을 가지고 'AI를 사용하는 과정에서 고려해야 할 규범'과 '윤리적 가치에 대한 지침'을 제시하는 '기본 원칙'을 담고 있습니다. 특히 미디어 기업으로서 'AI의 활용'은 BBC의 편집 지침과 가치에 부합하도록 해야 하며, 투명하고 신뢰할 수 있어야 한다는 AI 윤리 및 기업 거버넌스를 고려하여 내용을 정리하였습니다. 단, 유연하고 (빈도수가) 적은 수정 및 개정을 통해 지속적인 갱신을 지원한다는 이야기를 덧붙이고 있다는 점이 강조될 수 있는 사항 입니다.그렇다면, 핵심적인 사항들은 무엇일지 살펴보면,하나. BBC는 AI 사용시 공공 서비스 가치를 준수하고, 재능과 창의력을 우선시하며, 공개적이고 책임감 있게 사용해야 한다. AI 사용은 관객의 신뢰를 저해해서는 안 되며, 항상 투명하고 책임을 져야 한다둘. AI 사용시 편집과 승인에 있어서 사람이 감독해야 하는 필연성을 우선시 한다. 또한, AI 사용은 의도에 따라 필요할 때 활용되어야 하며, AI가 생성 및 제공 또는 배포된 콘텐츠는 BBC의 편집 지침을 준수해야 한다셋. AI의 (기술적) 알고리즘과 훈련 데이터는 바이어스를 일으킬 소지가 있으며, 이에 대한 고려 및 검토가 필요하다. AI 사용의 가능성을 조사할 때는 (일어날 수 있는) 편견 및 이슈에 대해 고려해야 하며, 콘텐츠가 정확하지 않을 가능성을 염두에 두어야 한다(Fact Check를 고려하는 내용이라고 판단됩니다)넷. 생성형(Generative) AI는 불특정한 상황 또는 불확실한 경우에 '사실에 기초하지 않고 예측적인 반응'을 제공할수도 있기 때문에 '환각 현상(할루시네이션)' 또는 허구로 여겨질 수 있는 콘텐츠에 대한 잠재적 위험이 있음을 인지해야 한다다섯. AI 또는 AI 기반 도구의 사용 시 콘텐츠에 영향을 줄 수 있는 기업 외부의 가공 콘텐츠 및 창작물의 사용에 주의해야 한다(미드저니 혹시, 스테이블 퓨전, ChatGPT, Claude 3와 같은 도구를 일컫는 것으로 판단됩니다) 콘텐츠/미디어 제작 팀 내 책임 있는 편집자가 (앞서 언급한 도구들의) AI 사용에 대해 책임을 져야 한다이렇게 기본적인 5가지 사항으로 요약 정리될 수 있는데요. 기본적인 목차는 아래와 같이 구성되어 있고, 외부 이해관계자 및 관련한 업무, 레퍼런스 자료가 필요한 타겟을 고려하여 Guidance Note를 다운로드 받을 수 있도록 첨부파일까지 붙여놨습니다.1. Introduction 2. What is Artificial Intelligence (AI)? 3. Editorial issues in the use of AI 4. Algorithmic bias and training data 5. Hallucinations 6. Plagiarism and mimicry 7. Non editorial issues in the use of AI 8. Seeking guidance 9. Use cases - Download이번과 같이 영국의 공영 방송 채널인 BBC가 AI 가이던스 - 특히 책임있는 AI를 바라보는 입장에서 기업의 거버넌스를 구축한 것은 매우 큰 의미가 있는 행동이라고 판단됩니다. 미국 내에서 벌어지고 있는 AI 기업과 미디어 기업 간의 소송이 진행되는 과정 속에서, 콘텐츠에 대한 소유권 및 트래픽 이탈 등의 이슈가 붉거지는 상황에서 자사의 콘텐츠 및 제작되는 콘텐츠 운영에 대한 방향성을 확고히 하고, AI 및 AI 도구 활용에 대한 '실무적인 의견'을 못박는 행동이야 말로 '디지털을 잘 적용했던 유럽의 첫 사례'로 손꼽았던 BBC 다운 선택이라고 판단됩니다.<figure id="figure-ivie1alzfltojit1w" data-full-width=""><iframe id="ivie1alzfltojit1w" src="https://www.youtube.com/embed/8jVicreuTZg" class="w-full bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9;" allowfullscreen="" data-url="https://youtu.be/8jVicreuTZg?si=jmOV9Xp51F4xlEA1" data-corners="default" data-fullwidth="true" data-mce-src="https://www.youtube.com/embed/8jVicreuTZg" data-mce-style="aspect-ratio: 16/9;"></iframe></figure>이와 맞춰, BBC가 AI를 사용하는 과정에서 발생할 수 있는 편견과 정확성 문제를 최소화하기 위한 전략들도 살짝 언급해서 그에 대한 추가 의견을 덕붙여 정리해봅니다. 책임있는 AI 및 AI윤리를 고려할 때, 참고하면 좋을 내용이라고 판단됩니다.1. 다양한 데이터 세트 사용하기: AI 훈련에 사용되는 데이터 세트의 다양성을 확보하여 (데이터)편향을 최소화하려는 노력이 필요함. 다양한 배경, 성별, 인종 등을 포함하는 데이터를 사용하여 AI가 더 형평성 있는 결정을 내릴 수 있도록 해야 함.2. 편향에 대한 '감지'와 '수정': AI 모델의 결정 과정에 '편향'이 존재하는지 지속적으로 모니터링하고, 발견되는 편향을 적극적으로 수정해야 함. 이를 위해 편향을 감지할 수 있는 도구 및 기술을 사용해야 함(편향을 필터링 하고, RAG 를 지속적으로 인풋하여 거짓 정보나 오류를 범하는 일이 없도록 하는 일)3. 인간의 직간접적 개입과 감독 유지: AI가 결정하는 과정에 있어 인간의 감독을 프로세스 상에서 직간접적으로 통합함으로써 AI로 인한 잠재적 오류나 편향을 방지해야 함(분명 AI는 여러 단계 및 시간 동안 학습하지만, 비정형화된 데이터 상의 불특정한 오류가 있을시 이를 Live 하게 선형적으로 내놓을 경우 발생할 수 있는 오류를 시스템화 하여 차단 필요). 특히, 중요한 결정 과정에서 인간의 심사가 (반드시) 필수적일 것임4. (AI for)윤리적 가이드라인 및 표준 개발: AI 사용과 관련하여 윤리적 가이드라인과 표준을 명확히 하여 (Red Team이 시나리오에 따라 대응할 수 있도록) 팀이 따라야 할 분명한 지침을 제공해야 함. 이는 (Responsible AI 또는) AI의 책임 있는 사용을 보장하고 편향과 정확성 문제를 해결하는 데 도움이 될 것임5. 다양성과 포용성 가치 실천: AI 개발 및 관리 팀 내에서 다양성과 포용성을 촉진함으로써, 다양한 관점으로 AI의 개발과정에 포함되도록 해야 함. 팀 구성원들이 다양한 배경(지식, 살아온 배경, 학습 배경 등등 Diversity에 기준한 다양성을 존중한다는 원칙 아래)에서 오는 경우, 편향을 더 잘 인식하고 이를 해결할 수 있는 더 나은 전략을 개발할 수 있음6. 지속적인 학습과 개선: (결국) AI와 관련된 편향과 정확성은 빠르게 변화하는 분야이기 때문에, 지속적인 교육과 학습은 필수임. 특히, (빠르게 변화하는) 최신 연구와 기술의 발전을 지속적으로 추적하고 적용하면서, AI 시스템을 최적화(Optimize) 하고 문제를 해결(Problem Solve and Advise)하는 데 필요한 지식을 유지해야 함위의 6가지와 같은 이러한 '전략'들은 AI 및 AI 도구를 사용하는 과정에서 발생할 수 있는 편향(할루시네이션)과 정확성 문제를 최소화하는데 도움이 될 수 있다고 판단됩니다---<figure id="figure-6ij87kbpooltojq8b0"><img id="6ij87kbpooltojq8b0" src="https://cdn.durable.co/blocks/2dja2C853ziXNOtGebGVzi9ZaEXV1jhTx2fip7Eams4aWoOlvfntzoOwZ0o9jORl.jpg" alt="bbc, british broadcasting corporation" class="object-cover bg-gray-100 rounded-lg md:rounded-xl lg:rounded-2xl" style="aspect-ratio: 16/9; object-position: undefined undefined;" data-corners="default" data-aspect="16:9" data-caption="출처 : 구글" data-positionx="undefined" data-positiony="undefined" data-fullwidth="false" data-mce-src="https://cdn.durable.co/blocks/2dja2C853ziXNOtGebGVzi9ZaEXV1jhTx2fip7Eams4aWoOlvfntzoOwZ0o9jORl.jpg" data-mce-style="aspect-ratio: 16/9; object-position: undefined undefined;"><figcaption class="body-normal text-gray-500 mt-2">출처 : 구글</figcaption></figure>BBC에서 만든 '가이드'는 AI를 사용하는 과정에서 고려해야 할 규범과 윤리적 가치에 대한 지침을 제시한 것과 동시에, AI 사용 시 공공 서비스 가치를 준수하고, 재능과 창의력을 우선시하며, 공개적이고 책임감 있게 사용해야 함을 다시 한번 더 강조한 것이 아닐까 합니다.마지막으로, 이번 BBC의 AI 가이드 문서의 서문 중에 있는 BBC가 추구하는 AI 방향에 대한 시그니처를 마무리 텍스트로 담아봅니다.BBC use of AI must- never undermine the trust of audiences. - always be transparent and accountable with effective and informed human oversight. - always be used in a manner consistent with BBC editorial values, in particular of accuracy, impartiality, fairness and privacy.This Guidance is intended to outline how AI can be used by the BBC, and all those who supply content to the BBC, in a manner consistent with Editorial Guidelines and the BBC’s editorial values.---이러한 환경의 변화에 대해 함께 고민하고, 적용 방안, 마케팅 적으로 접근하고자 하는 팀이라면 이야기 주세요. AGI의 시대에 AI윤리와 Responsible AI, 디지털 마케팅, 콘텐츠, 팀의 성장을 함께 논의 할 수 있는 파트너가 찾아뵙겠습니다.이메일 : chunghyo@troe.kr | 모바일 : 010.9341.7695 트로이 대표 파트너 : 박충효&nbsp;

Blog

생성형 AI가 사용 중단되는 '쿠키(cookie)'의 존재를 어떻게 대처, 해결할 수 있을까?

유튜브, 생성형 AI로 생성된 영상에 대한 별도의 레이블 요구 조건 제시

YouTube Creator Attention, New AI Disclosure Requirements

새로운 파트너를 찾고 있습니다(with 대표 파트너 소개)

MS 코파일럿(Copilot), AI정책을 위반한 사실을 엔지니어가 밝혀내다!

영국 BBC가 이야기 하는 미디어 기업 입장의 AI 가이드라인과 윤리