요즘 ‘딥페이크’ 혹은 ‘딥러닝’이라는 말을 많이 접하게 되는데요, 이미지 합성 기술로도 알려진 이 기술은 대체 뭘까요?
딥페이크 기술을 이용하여 실제 인물이 촬영한 적이 없는 영상을 마치 그 인물이 촬영한 것처럼 나타내는 사례가 많습니다.
당연히 이러한 영상은 잘 알려진 인물들을 사용하여 만들어지는 예시가 많습니다. 그렇다면 이 딥페이크라는 것은 무엇일까요?
딥페이크
딥페이크는 간단하게 표현하면 인공지능을 활용하여 인간의 이미지를 합성하는 기술입니다.
딥페이크(deepfake)라는 용어는 AI의 한 형태의 기반 기술인 “딥러닝(deep learning)”에서 유래했습니다.
대량의 데이터를 주었을 때 문제를 해결하는 방법을 스스로 학습하는 딥러닝 알고리즘은 비디오와 디지털 콘텐츠의 얼굴을 지속해서 교체/교환하여 진짜처럼 보이는 가짜 미디어를 만드는 데 사용됩니다.
딥페이크를 만드는 방법에는 여러 가지가 있지만 가장 일반적인 방법은 페이스 스와핑(face swapping: 말 그대로 얼굴을 교체)기술을 사용하는 자동 인코더와 관련된 심층 신경망(deep neural network)을 사용하는 것입니다.
조금 어렵게 들린다면 간단히, 먼저 딥페이크의 기초로 사용할 대상 비디오가 필요하고 그 대상에 삽입하려는 사람의 비디오 클립 모음이 필요합니다.
예를 들어 과거에 오바마 혹은 트럼프 미국 전 대통령의 딥페이크 비디오가 화제가 되었는데요, 이런 경우에는 누군가가 오바마나 트럼프와 비슷한 복장을 하고 촬영을 한 다음, 오바마나 트럼프가 인터뷰한 여러 비디오를 준비하는 것입니다.
딥페이크 사용사례
이 위의 오바마 비디오를 보셨다면 드디어 우리가 보고 있는 것 전부를 믿을 수 없는 시대에 살고 있다는 걸 실감할 수 있을 거예요.
모든 기술이 양날의 검에 비유되듯, 딥페이크도 현재 많은 분야에서 악용되고 있으며 많은 전문가도 이 부분을 우려하고 있습니다.
영화나 게임에서는 이러한 기술이 비용을 낮추고 좋은 퀄리티의 영상을 생성하는 데 사용되는 좋은 기술이지만 사실 딥페이크의 최초 응용 프로그램 중 하나는 합성 포르노를 생성하기 위한 것이었습니다.
심지어 외국에서 가장 활발하고 많은 정보가 교환되는 ‘레딧’이라는 커뮤니티에서는 이것만을 주제로 다루는 포럼까지 등장하여 유명한 인물들의 평판이 심각하게 손상되는 사례가 계속해서 나타나고 있습니다.
또한 이런 딥페이크 영상은 정치에서도 악용되었습니다.
예를 들어 2018년 벨기에의 한 정당은 전(前) 미국 대통령, 도널드 트럼프가 벨기에에 파리기후협약 탈퇴를 촉구하는 연설을 하는 비디오를 공개했습니다.
그러나 실제로 트럼프는 그런 연설을 한 적이 없습니다.
한편, 반대로 이러한 저명인사의 영상을 활용한 딥페이크 영상은 실제 해당 인물이 불가능한 것도 할 수 있도록 도와줍니다.
좋은 사례로 영국의 엘리자베스 2세 여왕의 2020년 크리스마스 인사를 보면 90세가 넘은 연세가 믿기지 않는 춤 실력을 자랑하며 코로나로 한창 우울하던 국민을 웃게 하는 메시지를 전달하였습니다.
물론 이 영상은 딥페이크 기술을 통해 제작되었습니다.
어떻게 구분하지?
이렇게 감쪽같다면 딥페이크 영상과 진짜 영상을 대체 어떻게 구분할 수 있을까요?
영상을 자세히 보며 디테일하게 머리카락, 피부 혹은 외부적인 환경에 초점을 맞추기보다는 얼굴이 선명하게 보이는지, 흐릿하고 어색하지는 않은 지 살펴봅니다. 초점이 부자연스러운 경우도 있습니다.
딥페이크는 AI 를 활용한 기술이므로 처음에 주어진 데이터의 질이 결과로 나오는 영상의 질을 좌우합니다.
현재의 딥페이크는 얼굴을 사실적으로 애니메이션화하는 데 문제가 있으며 그러한 경우에는 피사체가 눈을 깜빡이지 않거나 반대로 너무 자주 또는 부자연스럽게 깜박이는 비디오가 생성됩니다.
그러나 이러한 깜박임의 이상을 감지하고 이것을 수정하여 문제없는 새로운 딥페이크도 계속해서 출시되고 있습니다.
소프트웨어 개발 오픈 소스 커뮤니티인 GitHub에서 많은 양의 딥페이크 소프트웨어를 찾을 수 있습니다.
이러한 앱 중 일부는 순수한 엔터테인먼트 목적으로 사용됩니다. 이러한 경우 딥페이크 제작은 불법이 아니지만 다른 앱은 악의적으로 사용될 가능성이 훨씬 큽니다.
우리가 할 수 있는 것
많은 전문가는 기술이 발전함에 따라 딥페이크가 훨씬 더 정교해지고 선거, 정치 및 추가 범죄 활동과 관련하여 대중에게 더 심각한 위협을 초래할 수 있다고 경고합니다.
기술은 계속 진화합니다. 그러므로 딥페이크가 보편화된 사회에 대비하여 온라인 혹은 다양한 매체에서 영상을 접하며 우리가 지금까지 접한 적이 없던 다른 종류의 비디오를 감지하는 데 익숙해져야할 것 같습니다.
예를 들어 현재 다양한 플랫폼에서 가짜 뉴스가 전파되며 무엇이 사실인 지 구분하기 힘들지만 그래도 이러한 상황에 맞추어 가짜 뉴스를 분별하고 정보를 받아들이는 방법을 터득한 것처럼 딥페이크가 보편화된 시대를 대비한 집단과 개인의 지성이 요구됩니다.
