딥페이크 기술 발전동향과 문제점

딥페이크는 인공지능의 자체 학습 기술인 딥러닝(Deep Learning)에 가짜(Fake)라는 말을 덧붙여 만든 용어이다. 딥페이크라는 용어를 처음 만들어 낸 인물은 미국 최대 온라인 커뮤니티 레딧의 ‘deefakes’라는 사용자다. 그는 레딧에 합성된 영상을 올리면서 활동을 시작했고, 다른 사용자들도 차츰 이와 유사한 애플리케이션을 공개하면서 딥페이크가 널리 알려지기 시작했다. 

딥러닝을 활용해 원본 이미지나 영상 속 인물을 다른 사람과 합성하거나 영상과 오디오를 함께 합성하기도 한다. 딥페이크 관련 대표적인 딥러닝 알고리즘은 생성적 적대 신경망인 GAN(Generative Adversarial Network)이다.
GAN은 이미지뿐만 아니라 사운드도 학습해서 원래 목소리와 같은 가짜 목소리를 만들어낼 수도 있다. GAN은 이미지, 영상, 음성 합성 등 이미 다양한 분야에서 활용되고 있는데 사람 얼굴은 물론 동물을 비롯해 어떠한 것이라도 학습만 하면 인공지능이 현실과 거의 비슷하게 만들어낼 수 있다.

얼굴 합성앱이 폭발적으로 성장한 건 딥페이크 기술이 '오픈소스'화 되고 나서 부터다. 오픈소스란 프로그램 개발을 위한 소스코드를 공개하는 것을 의미한다.
가장 세계적으로 많이 쓰이는 오픈소스 커뮤니티인 '깃허브'에서 '딥페이커'라는 아이디의 개발자는 딥페이크 영상을 만들기 위한 소스코드를 모두 공개했다. 즉, 개발 관련 지식이 있는 사람이라면 누구나 딥페이크 영상 및 얼굴 합성앱을 개발할 수 있다는 것이다.

이 기술들은 요즘 인기를 끌고 있는 디지털 휴먼부터, 메타버스까지 얼마든지 창조적인 곳에 쓰일 수 있는 기술이다. 다만 최근엔 얼굴합성앱의 등장으로 누구나 딥페이크 기술을 사용할 수 있다보니 '신뢰'의 문제가 발생한다. 대표적인 예가 SNS에 올라온 사진이 진짜인지, 가짜인지 판별할 수 없는 것이 문제인 것이다.

이렇게 가상인간의 '인간계' 진출이 꾸준히 이어지는 가운데 인도에서는 세계 최초로 가상인간 전용 '가이드라인'도 마련됐다. 지난 7월 인도 광고 표준 위원회(ASCI)는 가상 인간을 '인간의 현실적인 특성과 특징을 가지고 사람과 유사한 방식으로 행동하는 가상의 컴퓨터 생성 아바타'로 정의했다. 그러면서 가상인간을 모델로 사용할시 현실에 존재하지 않는 가상의 존재임을 광고에 명시해야 한다고 규정했다. 소비자의 오해를 초래하지 말아야 한다는 이유에서다.

미국에서도 표현의 자유를 인정해 딥페이크 콘텐츠를 누구나 만들 수 있지만, 딥페이크로 만들었다는 정보를 꼭 화면 상에 노출해야 한다. 사람들을 혼동시키지 말라는 의미인 것이다.

우리나라도 미국처럼 딥페이크 콘텐츠에 '디스클레이머'(Disclaimer, 일종의 정보 표시 규칙)가 도입돼야 한다고 보고 있다. 아울러 타인의 사진으로 딥페이크 콘텐츠를 만들면 '초상권' '인권침해' 등의 다양한 문제가 발생할 수 있는데 딥페이크가 일상 속에 녹아들고 있는 만큼 윤리 의식도 함께 만들어져야 한다고 본다.

미국의 마케팅 분석회사 하이프오디터가 발행한 보고서에 따르면 버추얼 인플루언서(가상인간) 시장은 2022년까지 약 16조7820억원(150억 달러)으로 성장할 것이라고 예측했다. 2020년부터 매년 32.5%씩 성장해 2025년에는 버추얼 인플루언서의 비중이 50% 이상 차지해 인간 인플루언서를 넘어설 것 예상하고 있다.