딥페이크 규제 시작하는 중국, 기술 봉쇄만이 답일까

┃가짜 뉴스와 디지털 범죄 예방…정부 통제 강화
┃부정적 기능만 부각되면 긍정적 효과 발휘할 기회도 사라져

이찬주 기자 승인 2023.01.12 10:43 | 최종 수정 2023.01.20 12:59 의견 0
(사진=픽사베이)

앞으로 중국에서는 인공지능(AI) 기술을 이용해 인물 사진이나 영상, 오디오를 합성한 콘텐츠 사용이 금지된다.

중국은 딥페이크 기술에 의한 범죄 예방과 허위 정보 확산 방지를 위해 ‘인터넷 정보 서비스 딥 합성 관리 규정’을 지난 10일부터 시행했다.

‘인터넷 정보 서비스 딥 합성 관리 규정’에 따르면 중국에서는 ▲딥페이크 기술을 사용한 콘텐츠에 ‘딥페이크 기술이 사용됐다’는 사실을 적시해야 하고 ▲원본을 추적할 수 있는 워터마크를 넣어야 한다. ▲누군가의 이미지나 목소리를 합성해 편집하려고 할 때는 당사자 동의가 있어야 하며 ▲언론 보도에서 딥페이크 기술을 사용할 때는 정부가 승인한 매체 원본만 활용할 수 있다.

딥페이크(deepfake)란 딥 러닝(deep learning)과 가짜(fake)의 합성어로, 인공 지능을 기반으로 한 진위 구별이 어려운 가짜 이미지나 영상물을 뜻한다. 가짜 정치 뉴스, 포르노 영상물 등에 사용되면서 '문제적 기술'로 이름을 알린 딥페이크는 영화계, 방송계뿐만 아니라 광고/홍보 분야 등 여러 방면에서 활용되고 있다.

딥페이크 기술 범죄가 뉴스 헤드라인을 자주 장식하면서 부정적 평가와 규제 논란의 등의 이슈가 있다.

일각에서는 '딥페이크'는 기업이 필요로 하는 마케팅, 커뮤니케이션 등에 혁신적인 변화를 가져다줄 기술이기도 하다는 점에 주목한다. 이 기술 자체가 부정적으로 치부되는 것은 딥페이크 기술을 통한 가치 생산을 저해하는 요소가 될 수 있다는 우려다.

(사진=신한라이프 유튜브)

■ 범죄 기술에서 차세대 미디어 기술로 거듭나는 '딥페이크'

<딥페이크: 인포칼립스가 오고 있다(Deepfakes: The Coming Infocalypse>의 저자 니나 쉬크는 “4년 이내에 모든 온라인 콘텐츠의 약 90%가 합성 미디어일 것”이라고 전망한 바 있다. 실제로 딥페이크 기술은 광고·홍보 분야에서도 어렵지 않게 접할 수 있는 기술이 되었고 노출 빈도도 크게 증가하고 있다.

광고를 통해 딥페이크 기술력의 향상을 선보이고 인식을 전환시킨 사례로, 신한라이프 광고 모델 '로지'를 들 수 있다. MZ세대가 선호하는 이목구비를 조합하여 탄생한 국내 최초의 가상 인플루언서인 로지는, 어설프게 인간을 닮은 형상을 접할 때 나타나는 '불쾌한 골짜기'를 성공적으로 극복해낸 사례다. 신한라이프는 MZ세대 팬덤을 굳히기 위해 로지와의 계약을 연장할 만큼 딥페이크로 탄생한 버츄얼 휴먼에 긍정적인 평가를 하고 있다.

딥페이크를 활용해 가상얼굴서비스를 제공하는 스타트업, 디오비스튜디오가 만든 AI 유튜버 '루이' 역시 12만 명 구독자를 보유한 유튜브 채널 '루이커버리'를 운영하며 왕성히 활동 중이다. 루이는 일반 기업들의 광고 모델 러브콜을 받고 있으며, 한국 새생명복지재단 디지털 홍보대사로도 활동하며 미디어 사용자들의 사랑을 꾸준히 받고 있다.

(사진=YTN)

21년에 데뷔한 AI 가상프로젝트 걸그룹 '이터니티' 또한 AI 그래픽 전문 기업 펄스나인이 딥페이크로 제작한 가상 인간 아이돌이다. 8월에는 이터니티의 멤버 제인이 YTN 생방송 뉴스에 출연해 인터뷰를 하고 신곡 안무를 선보였다. 생방송으로 아나운서와 소통하는 모습은 상당히 자연스러운 수준이었다.

펄스나인 관계자는 "가상인간의 얼굴을 실시간으로 합성하는 '딥리얼 라이브 기술'로 활동의 제약을 깨고 한계를 넘어"서고자 하는 의지를 밝히기도 했다.

최근에 활용되는 딥페이크 기술이 과거와 다른 점이 있다면, 특정 인물을 그대로 합성하지 않고 여러 얼굴을 합성해 '세상에 존재하지 않던 얼굴'을 만들어낸다는 것이다.

이러한 딥페이크 기술은 영상이 마케팅 콘텐츠의 주축이 되면서 그에 따른 피사체(인물) 섭외에 골머리를 앓는 마케팅 업계가 주목하기에 충분하다.

딥페이크를 활용하면 브랜드를 대표할 인물을 섭외하는 데에 드는 리소스를 줄일 수 있고, 훨씬 저렴한 비용으로 브랜드의 고유 모델을 확보할 수 있다.

진짜인 듯한 가짜로 이목을 끌어 마케팅의 주목도를 높일 수 있고, 새로운 경험을 추구하는 MZ세대의 감각을 자극하는 수단이 될 수 있는 것도 딥페이크 적용 콘텐츠의 장점이다.

이와 관련해 샌디에이고 대학교, 멜버른의 스윈번 기술 대학교, 브리티시 컬럼비아의 빅토리아 대학교, 런던 킹스 칼리지의 교수 4인은 「딥페이크 및 AI 생성 광고 시대를 위한 준비: 조작된 광고에 대한 반응을 이해하기 위한 프레임워크」 연구를 공동 진행하였다.

교수들은 연구 발표를 통해 "딥페이크가 10년 이내에 메인스트림 미디어와 광고에 널리 사용될 것이며, '개인화 광고'의 다음 단계를 제공할 수 있을 것"이라고 전망하기도 했다.

(사진=TIMEREK RU)

■ 좋은 의도로 사용해도 '부정적 효과' 우려 여전

지금까지 딥페이크 영상은 대부분 범죄와 관련되어 뉴스의 헤드라인을 장식해 온 게 사실이다. 예를 들면 특정 정치인을 합성하여 정치적 물의를 일으킨 발언을 한다거나 포르노 영상에 연예인 얼굴이 합성되는 등이다.

이런 사례에 의해 부정적 인식이 적지 않음에도 불구하고 딥페이크 기술에 갖는 마케팅 업계의 관심은 더욱 높아지고 있다. 이유는 앞서 설명한 바와 같이, 섭외하기 어려운 인물을 대신하여 콘텐츠를 제작을 쉽게 할 수 있는 장점 때문이다.

예를 들면, 작고한 연예인 혹은 건강상의 이유 등으로 활동하지 못하는 연예인을 합성해 광고 콘텐츠를 제작하는 것이다.

그러나 이것 역시 논쟁이 계속되는 부분이다. 피사체가 될 실제 연예인 혹은 유명인을 일일이 섭외하지 않아도 되는 제작자에겐 환영할 일이지만, 피사체가 되는 당사자 입장에선 또 다른 법적 공방의 소지가 있을 수 있기 때문이다.

해외 유명 배우 윌리스의 딥페이크 광고 제작과 그 이후에 잇따른 사건만 봐도 그렇다.

실어증 진단을 받고 은퇴 선언을 했던 브루스 윌리스는, 지난해 10월 언론을 통해 "딥페이크 기술을 통해 영화와 TV 광고에 계속 출연할 계획"이라고 밝혔다. 이후 배우 본인 동의하에 제작한 딥페이크 광고가 소개되기도 했다. 하지만 이런 사례를 틈타 동의되지 않은 딥페이크 광고가 제작되는 사건이 잇따랐다. 일론 머스크, 톰 크루즈 등 유명인의 얼굴이 무단 사용된 것이다.

이처럼 좋은 의도로 기술을 사용했더라도 그림자 같은 사건이 끊이지 않는 이유는, 아직 실존 인물을 합성한 미디어에 대한 법과 제도가 정리되지 못한 데에 있다.

(사진=로이터)

딥페이크는 원하는 대로 영상을 제작하는 데에 도움을 주는 효율적이고 편리한 기술이다. 하지만 한편으론 지금까지의 저작권·초상권·퍼블리시티권 개념을 뒤흔드는 기술이기도 하다.

특정 인물의 얼굴을 합성하는 것에 대한 기존 법률 적용도 논란이 이어지는 마당에, 각기 다른 얼굴 요소를 조합해 만든 피사체는 어떻게 대응해야 하는지, 이런 가상 인물로 인해 생길 수 있는 문제가 무엇인지 가늠조차 하지 못하고 있는 게 현실이다. 그렇기 때문에 이런 배경에서 시행된 중국의 딥페이크 금지 규제는 그 효과가 매우 제한적일 수 있다.

(사진=픽사베이)

딥페이크가 아직 '위협적인 기술'이란 인식에 머물러 있지만 그럼에도 불구하고 미디어 학자들은 딥페이크가 향후 비즈니스에 큰 이익이 될 기술로 자리잡을 것으로 전망한다.

딥트레이스(Deeptrace)의 2020년 딥페이크 현황 보고서(The State of Deepfakes)에 따르면, 온라인 딥페이크 동영상의 수는 2018년과 비교해 약 100% 증가한 1만 5,000개에 달했다. 딥페이크 생성 기술과 도구 역시 많은 커뮤니티, 컴퓨터 앱 및 서비스 덕분에 상품화되고 있다.

합성 미디어 콘텐츠 제작 프로그램의 이용성이 향상되고 제작 방식 또한 손쉬워지면서, 정치나 특정 문화계에서나 볼법하던 딥페이크 기술이 일반 기업의 마케팅 분야로도 빠르게 침투하고 있다. 마케팅 업계에서도 AI를 좋은 목적으로 활용하고, 악용을 방지하기 위해 힘써야 하는 노력이 요구되는 시기다.

딥페이크가 도입된 분야에서의 좋은 사례가 많아져야 이 기술을 통한 새롭고 다양한 도전의 기회도 얻을 수 있다.

기술 자체에 좋고 나쁨은 없다. 그 기술을 '우리가 어떻게 쓰느냐'에 우리의 현재와 미래가 달라질 뿐이다. 기술을 올바르게 활용하되 부작용을 최소화하기 위해 마케팅 업계도 노력과 관심을 모아야 할 때가 되었다.

저작권자 ⓒ 디지털마케팅뉴스, 무단 전재 및 재배포 금지