지난 12일(현지시간) 미국 NBC 뉴스에서 한 영상의 위험성을 경고해 네티즌들의 큰 관심을 받았다.

뉴스는 딥페이크로 만들어진 토크쇼 영상을 소개하면서 "그것은 가볍게 즐길 거리가 아니다."고 말했다.

영상은 코난 오브라이언의 토크쇼에 출연한 코미디언 빌 헤이더가 배우 아놀드 슈왈제네거의 성대모사를 하는 것으로 시작한다. 몇 초후 헤이더의 얼굴은 슈왈제네거의 얼굴로 바뀐다. 3분의 영상 내내 헤이더와 슈왈제네거의 얼굴은 수시로 바뀐다.

이 영상을 만들어낸 딥페이크는 컴퓨터가 사람처럼 생각하고 배우는 기계학습인 딥러닝(Deep learning)과 가짜(fake)의 합성어로, 인공지능(AI)을 이용해 영상 속 인물을 다른 이로 감쪽같이 합성하는 기술을 말한다.

작년 7월, 유튜브에서 버락 오바마 전 미국 대통령이 도널드 트럼프 미국 대통령을 비난한 영상이 공개되며 큰 논란이 생겼다. 특히 두 사람의 관계가 좋지 않아, 이 영상은 더 큰 파장을 불러왔다.

이후 인터넷 매체 버즈피드와 영화감독인 조든 필이 이 영상을 제작한 것으로 밝혀졌다. 조든 필 감독은 오바마 전 대통령이 해당 발언을 한 적이 없으며, 제작 동기는 가짜 동영상의 위험성을 알리기 위한 것이었다고 말했다.

딥페이크에 대처하기 위한 대응도 나타나기 시작했다. 지난 13일 미국 하원 정보위원회는 ‘딥페이크’ 관련 청문회를 개최했다. 이미 미국은 지난 2016년 대선에서 가짜뉴스로 홍역을 치렀다. 미국 정치권은 가짜뉴스에 이어 딥페이크로 거짓정보가 퍼지는 것을 막기 위해 청문회 등에서 방안을 찾고 있다.

기업들의 기술개발도 이어지고 있다. 그래픽 소프트웨어 업체인 어도비는 미국 UC버클리 대학과 함께 포토샵으로 조작한 이미지를 판별하고 색출할 수 있는 인공지능(AI) 툴을 개발했다. 어도비는 이를 시작으로 딥페이크의 이미지 조작까지 확인할 수 있도록 AI 툴을 개발할 것으로 보인다.

한편 국내에서는 딥페이크가 활용된 음란 영상물이 문제를 일으키고 있다. 이미 AOA 설현, 소녀시대 태연 등 유명인의 얼굴로 합성된 영상물이 인터넷에서 유통되고 있다. 이에 비해 관련 법 제도가 미비하여 처벌은 쉽지 않다.

네티즌들은 딥페이크에 대해 "진짜 신기한 기술인데 무섭다.", "유명인들 초상권 침해가 심각하겠네."라는 우려섞인 반응을 보이고 있다.