딥페이크, 깊은 가짜란?

딥페이크, 깊은 가짜만큼 끔찍한 기술은 없을지도 모릅니다.

 

딥페이크란, AI에 있어서의 딥 러닝을 이용해 화상이나 동영상에 「본래는 없는 것을 맞추는」기술입니다. 일본에서는 2020년에 일어난 사건으로 유명해졌습니다. 위험하고 획기적인 신기술은 많은 주목을 받고, 이에 따라 간이적인 가짜 동영상을 만들 수 있는 툴이나 가짜 동영상을 다루는 TV 프로그램도 등장하고 있습니다. 이러한 경위로 부터 현재의 딥페이크에 대한 이미지는 「악사에 이용되는 위험한 기술」 「재미있는 기술」이라고 하는 것이 대부분이라고 보시면 됩니다.

 

 

과연 정말 그럴까요?

이 글에서는 딥페이크를 둘러싼 지금까지의 경위나 개요를 확인한 다음에 딥페이크의 가능성이나 위험성에 대해 생각해보고자 합니다.

 

 

깊은 가짜란?

「딥페이크」는 AI에 있어서의 「딥 러닝(심층학습)」과 가짜의 의미를 나타내는 [페이크]를 조합한 말 입니다. 탄생의 계기는 2017년 미국에서 일어나 [포르노 동영상 사건]의 범인 유저 [딥페이크(deepdakes)] 입니다.

본래 딥 러닝에 의해 [2개 이상의 동영상이나 화상의 일부를 교환하는 기술]을 가리킵니다. 현재에서는 [견파하기 어려운 고정밀도의 가짜 동영상] 전반의 호칭으로서 사용되는 것이 많아지고 있습니다. 이 글 내에서는 기술의 호칭으로 사용해 봅시다.

 

AI 기술의 비약적인 발달에 의해 등장한 기술이며 이미 사건도 일으키고 있기 때문에 앞으로도 사회 문제에 관련될 가능성이 높은 기술로서 주목을 받고 있습니다. 또, 간단한 처리 방법을 이용해 작성하는 저정밀도의 페이크 동영상을 치프 페이크라고 부릅니다.

 

 

깊은 가짜가 문제가 된 경위

딥페이크가 사람들 앞에 나타나게 된 것은 2017년에 미국에서 일어나 포르노 동영상 사건입니다. 포르노 동영상에 여배우의 얼굴이 적용된 이 사건을 경계로 고정밀도의 가짜 동영상이 깊은 가짜라고 불리게 됩니다.

 

2018년에는 미국 영화 감독이 만든 바락 오바마 전 대통령의 가짜 동영상이 화제가 되었습니다. 실제로는 발언하지 않은 내용을 발언하고 있는 것처럼 보여준 동영상은 딥페이크의 문제점을 호소한다 라고 하는 목적대로, 본 사람에게 임팩트를 주었습니다. 이것을 계기로 딥페이크의 주목은 미국으로부터 세계로 퍼져 나가기 시작합니다.

 

2019년에는 일본에도 평화로운 형태로 깊은 가짜가 상륙하게 됩니다. "아마존 로고가 들어간 비행선 도영상"이 주목을 받았습니다.

 

한편 유럽에서는 예술 이벤트의 작품으로 '마크 자커버그 씨의 가짜 도영상'이 제작되는 가운데 '가짜 음성'에 의한 사기 사건도 발생하고 있습니다. 이 근처에서 등장시보다 불안시되고 있더 딥페이크의 문제점이 가속도적으로 노출되어 갑니다.

 

2020년에는 여성 탤런트의 얼굴로 바꾼 포르노 동영상을 사이트에서 소개했다고 해서 일본인 남성 2명이 명예훼손, 저작권법 위반의 혐의로 체포됩니다. 이 사건은 미디어에서도 화제가 되어 일본에서의 딥페이크의 지명도를 급상승시켰다. 미국에서도 '조바이덴 대통령 후보의 발언이 날조된 동영상'이 공개됩니다. 정치에 개입까지 볼 수 있게 되었기 때문에 그 위험성을 문제시하는 풍조가 높아집니다.

 

2021년에 들어가서도 깊은 가짜의 기세는 머물 걱정이 없습니다. 미국에서는 어머니가 깊은 가짜 기술을 사용하여 딸의 팀 메이트의 외설적인 이미지와 동영상을 만드는 사건이 발생합니다. 일본에서도 지진에 관한 기자 회견에서 카토 관방 장관이 웃는 가짜 이미지가 트위터에 투고되어 화제가 되었습니다.

 

지금까지의 흐름을 되돌아보면 딥페이크가 크리에이티브성과 위험성을 꾀하고 있는 기술인 것은 확실합니다. 한편, 수많은 사건과 미디어의 영향도 함께 클로즈업 되고 있는 것은 거의 위험성의 부분일 뿐이며, 세상에서는 위험한 기술로서의 입위치를 획득하고 있는 것이 이해가 됩니다.

 

 

깊은 가짜는 위험한 기술입니까?

깊은 가짜는 정말 위험한 기술입니까?

 

아무래도 깊은 가짜는 안전한 기술은 맞습니다. 위험은 없습니다. 라고 말하고 싶지는 않습니다. 다만, 위험하 기술 밖에 없다 라고 단정하기에는 기다려달라를 주장하고 싶습니다. 딥페이크라고 하는 기술의 가치에 대해서, 지금까지의 사례나 제시되고 있을 가능성을 근거로 작성한 글입니다.