4장 진실의 종말 딥페이크

"거짓말은 진실이 신발을 신는 동안 지구를 반 바퀴 돈다" - Mark Twain

1. 딥페이크란 무엇인가

벨기에 아티스트 크리스 우메가 만든 톰 크루즈 영상을 처음 본 사람들의 반응은 흥미로웠다. 1,100만 명이 넘는 사람들이 그 영상을 보며 즐거워했고, 상당수는 정말 톰 크루즈가 직접 찍은 것이라고 믿었다. 하지만 그것은 완벽한 가짜였다. 딥러닝과 가짜라는 두 단어가 만나 탄생한 '딥페이크'의 완성작이었다.

크리스 우메는 자신의 작품에 대해 "사람들을 즐겁게 하고, 경각심을 높이고, 어떻게 되는지 알려주고 싶었다"고 말했다. 하지만 그의 의도와는 달리, 그 완벽함이 오히려 많은 사람들에게 공포감을 안겨주었다. 만약 톰 크루즈가 아니라 정치인이었다면? 만약 재미가 아니라 악의적인 목적이었다면?

딥페이크 기술의 진화는 놀랍도록 빠르다. 불과 몇 년 전만 해도 할리우드 영화 제작진들이 수억 원을 들여 몇 달 동안 작업해야 했던 특수효과를 이제 스마트폰 앱으로 몇 분 만에 만들어낼 수 있다. 필요한 것은 단지 몇 장의 사진과 몇 초의 음성뿐이다.

처음에는 모두가 재미있어했다. 자신의 얼굴을 유명 배우와 바꾸거나, 역사적 인물이 현대의 말을 하도록 만드는 콘텐츠들이 소셜미디어를 뜨겁게 달궜다. 하지만 시간이 지나면서 상황은 달라졌다. 재미있는 놀이도구가 무서운 무기로 변하기 시작했다. 이제 딥페이크는 전문가들도 진짜와 가짜를 구분하기 어려울 정도로 정교해졌다.

우리가 살아온 세상에서 '보는 것이 믿는 것'이었다. 하지만 딥페이크는 이 오랜 믿음을 뿌리째 흔들고 있다. 눈으로 보고 귀로 들어도 더 이상 확신할 수 없는 시대가 온 것이다. 영상과 음성, 사진까지도 의심해야 하는 세상에서 우리는 무엇을 믿고 살아가야 할까?

2. 가짜 영상이 대통령을 바꾼다

2023년 5월, 튀르키예 대통령 선거가 막바지에 이르렀을 때 충격적인 영상 하나가 공개되었다. 야당 후보인 케말 클르츠다로을루가 쿠르드족 무장단체 PKK 지도자와 함께 있는 모습이었다. 에르도안 대통령 진영이 공개한 이 영상은 순식간에 전국을 뒤흔들었다. 마치 야당 후보가 국가를 배신하는 위험한 인물인 것처럼 보였다.

하지만 그 영상은 딥페이크였다. 치밀하게 계산된 가짜였다. 튀르키예 국민들의 민족주의 감정을 자극하여 "저 사람에게 투표하면 나라가 위험해진다"는 두려움을 심어주었다. 조작된 영상은 소셜미디어를 타고 번개처럼 퍼져나갔고, 진실을 확인할 시간도 없이 선거일이 다가왔다. 결국 에르도안이 재선에 성공했다. 전문가들은 이 단 하나의 가짜 영상이 선거 결과를 바꾸는 데 결정적인 역할을 했다고 분석한다.

더욱 교묘한 사례는 슬로바키아에서 벌어졌다. 2023년 9월 28일, 총선 투표를 단 이틀 앞둔 절묘한 타이밍에 야당 대표 미칼 시메츠카의 가짜 음성이 등장했다. 조작된 음성에서 그는 "로마족의 표를 돈으로 사야 선거에서 이길 수 있다"고 말하는 것으로 들렸다.

가장 악랄했던 것은 그 타이밍이었다. 슬로바키아는 선거법에 따라 투표 48시간 전부터 모든 선거 관련 활동이 금지되는 '침묵 기간'에 들어간다. 야당 대표는 이 거짓 정보에 대해 반박하거나 해명할 기회조차 없었다. 유권자들은 선거 전날까지 48시간 동안 그가 부패한 정치인이라는 거짓 정보에 노출되었고, 진실을 확인할 방법도 없었다. 결국 친러시아 성향의 집권당이 승리했다. 단 하나의 가짜 음성 파일이 한 나라의 정치적 운명을 바꾼 것이다.

2024년 미국 대통령 선거는 '딥페이크 선거의 해'라고 불릴 만했다. 트럼프와 해리스를 둘러싼 수많은 가짜 영상과 음성이 소셜미디어를 점령했다. 러시아의 한 인물이 만든 민주당 부통령 후보 팀 월즈에 대한 거짓 영상은 하루 만에 X에서 500만 회 조회되는 엄청난 파급력을 보였다. 전문가들은 딥페이크가 선거를 조작하는 새로운 무기가 되었다고 경고했다. 특히 선거 직전에 집중적으로 가짜 영상을 퍼뜨리면 상대 후보가 해명할 시간조차 없어 치명적인 타격을 줄 수 있다는 점이 문제였다.

한국도 예외가 아니다. 2024년부터 선거 90일 전부터 선거일까지 딥페이크를 활용한 선거운동을 금지하는 법안이 시행되었지만, 기술의 발전 속도가 너무 빨라 법과 제도만으로는 모든 것을 막기 어려운 상황이다. 딥페이크의 정치적 악용은 단순히 한 후보가 이기고 지는 문제를 넘어선다. 국민들이 무엇이 진실인지 알 수 없게 만든다는 점에서 민주주의 자체를 위협한다. 모든 것이 가짜일 수 있다는 불신이 퍼지면, 진짜 사실도 믿지 못하게 되는 '진실의 종말' 시대가 올 수 있다.

3. 총알 없는 전쟁, 딥페이크

2022년 3월 16일, 우크라이나의 뉴스 채널 '우크라이나24'가 해킹당했다. 그리고 곧이어 충격적인 영상이 방송되었다. 젤렌스키 대통령이 화면에 나타나 "러시아에 항복하라"고 말하는 모습이었다. "우크라이나군은 무기를 내려놓고 가족에게로 돌아가라. 이번 전쟁에서 죽는 것은 가치가 없다"는 말이 그의 입에서 흘러나왔다.

다행히 이 영상의 품질은 조잡했다. 젤렌스키의 머리가 몸에 비해 너무 크고, 목소리도 평소보다 낮아서 많은 사람들이 의심했다. 젤렌스키 대통령은 즉시 반박 영상을 올렸다. "러시아군이 무기를 내려놓고 집으로 돌아갈 것을 권고할 뿐이다. 우리는 승리할 때까지 어떤 무기도 내려놓지 않을 것이다"라고 단호하게 말했다.

하지만 이 사건이 보여준 가능성은 섬뜩했다. 만약 더 정교한 가짜 영상이었다면? 우크라이나군의 사기에 치명적인 타격을 줄 수 있었을 것이다. 러시아는 이후에도 지속적으로 딥페이크 공격을 시도했다. 젤렌스키의 자살 허위 보도, 아조프 부대 내분 조작 뉴스 등 다양한 허위정보를 계속해서 퍼뜨렸다.

반대로 푸틴 대통령이 평화를 선언하는 가짜 영상들도 여러 번 제작되어 유포되었다. 이런 영상들은 러시아 국민들 사이에 혼란을 일으키고, 전쟁에 대한 의문을 갖게 만드는 목적으로 사용되었다. 전문가들은 우크라이나 전쟁을 '딥페이크 전쟁의 시작'이라고 평가한다. 앞으로의 전쟁에서는 실제 무기만큼 딥페이크가 중요한 역할을 할 것이라고 예측하고 있다.

이스라엘과 이란 사이의 군사적 충돌에서도 비슷한 일들이 벌어졌다. BBC 검증팀이 확인한 바에 따르면, 가짜 영상 상위 3개만으로도 여러 플랫폼에서 총 1억 회 이상의 조회 수를 기록했다. 이스라엘의 F-35 스텔스 전투기가 격추되었다는 영상도 있었는데, 자세히 보면 주변 사람들의 크기가 차량과 비슷하고, 모래에는 전투기 추락 흔적이 전혀 없는 등 AI로 조작된 것이 분명했다. 하지만 이 영상은 2,110만 회나 조회되며 마치 진짜 전투 장면인 것처럼 받아들여졌다.

친이스라엘 성향의 계정들도 가짜 정보를 퍼뜨렸다. 이란의 수도 테헤란 시민들이 "우리는 이스라엘을 사랑한다"며 시위하는 가짜 영상을 만들어, 마치 이란 내부에서 반정부 시위가 벌어지고 있는 것처럼 조작했다.

러시아는 해외 영향력 작전에 연간 15억 달러, 우리 돈으로 약 2조 1천억 원을 투자하고 있으며, 이 중 상당 부분이 딥페이크를 이용한 정보 조작에 사용되고 있다. 이제 전쟁은 총과 폭탄만으로 싸우는 것이 아니다. 적국의 사기를 떨어뜨리고, 국제 여론을 조작하고, 내부 분열을 일으키는 딥페이크가 새로운 무기가 되었다. 총알 없는 전쟁이 시작된 것이다.

4. 당신의 가족이 전화로 돈을 요구할 때

"엄마, 나야. 급한 일이 생겨서 돈이 필요해." 캐나다의 한 어머니가 받은 전화는 분명히 아들의 목소리였다. 아들이 사고를 당해 급히 2만 1천 캐나다달러가 필요하다는 간절한 목소리였다. 어머니는 의심 없이 돈을 보냈다. 하지만 나중에 진짜 아들과 통화하고 나서야 모든 것이 거짓이었음을 알게 되었다. 딥페이크 기술로 합성된 아들의 목소리에 속은 것이었다.

더 충격적인 사례는 홍콩에서 벌어졌다. 2024년 2월, 한 다국적 기업의 직원이 딥페이크 기술로 만든 가짜 화상회의에 속아 약 340억 원의 손해를 입었다. 가해자들은 회사 임원들의 모습을 딥페이크로 완벽하게 재현해 진짜 회의인 것처럼 속이고, 거액의 자금 이체를 지시했다. 피해자는 화면에서 보고 대화한 모든 사람들이 자신이 아는 동료들이라고 확신했다. 목소리도, 얼굴도, 말투도 완벽했기 때문이었다.

딥페이크의 가장 고통스러운 악용은 성범죄 분야에서 일어나고 있다. 방송통신심의위원회 자료에 따르면, 딥페이크 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 2023년 5,996건으로 12배 이상 급증했다. 과거에는 연예인이나 유명인을 대상으로 한 불법 합성물이 많았지만, 최근에는 일반인, 특히 학교 친구나 직장 동료 등 주변 사람들을 대상으로 한 딥페이크 성범죄가 크게 늘어나고 있다.

더욱 충격적인 것은 평범한 미성년자들이 가해자가 되는 경우가 늘어나고 있다는 점이다. 초등학생들까지도 학교 선생님의 얼굴을 성적인 사진에 합성해서 친구들과 돌려보는 사례가 발생하고 있다. 아이들은 이것을 단순한 놀이로 여기지만, 피해자에게는 돌이킬 수 없는 상처를 남긴다.

한 피해자는 이렇게 증언했다. "바깥 활동을 할 수가 없었어요. 집에만 박혀 살았던 것 같아요. 사람이랑 대화하는 것 자체가 너무 싫었거든요." 많은 피해자들이 대인기피증에 시달리고, 직장을 그만두거나 학교에 나가지 못하는 등 정상적인 사회생활이 불가능해진다.

투자 사기에서도 딥페이크가 활발히 악용되고 있다. 일론 머스크, 손석희 전 JTBC 사장 등 신뢰받는 인물들의 얼굴과 목소리를 도용해 가짜 투자 상품을 홍보하는 사기가 횡행하고 있다. 싱가포르에서는 리셴룽 총리가 일론 머스크가 주관하는 투자 플랫폼을 홍보하며 암호화폐 투자를 권하는 딥페이크 영상이 제작되어 많은 시민들이 사기 피해를 당했다.

미국 팝스타 테일러 스위프트의 이름을 도용한 투자 사기도 발생했다. 딥페이크로 만든 테일러 스위프트가 특정 투자 상품을 추천하는 영상이 소셜미디어를 통해 퍼져나가면서, 팬들이 거액의 피해를 입었다. 이런 사기들의 특징은 피해자들이 평소 신뢰하던 인물이 직접 추천한다고 믿게 만든다는 점이다. 아무리 조심스러운 사람도 자신이 좋아하고 신뢰하는 유명인이 직접 나와서 투자를 권하면 쉽게 속을 수 있다.

SNS에 올린 음성이 포함된 게시물을 학습해서 그 사람의 목소리를 완벽하게 흉내 내는 기술이 발전하면서, 몇 초간의 음성만 확보하면 정교한 가짜 목소리를 생성할 수 있게 되었다. 우리가 무심코 올린 동영상이나 음성 메시지가 언제든 범죄에 악용될 수 있는 시대가 온 것이다.

5. 신뢰의 붕괴, 믿을 수 없는 사회

베스트셀러 『사피엔스』의 저자 유발 하라리는 딥페이크 시대에 대해 깊은 우려를 표명해왔다. 그는 "화면에서 보는 것이 사진이든 영상이든 오디오든 더 이상 믿을 수 없게 되었다"며, 이를 "진실의 종말 시대"라고 표현했다. 어떤 기관이나 권위가 보증해 주어야 하지만 사회는 이에 대비되어 있지 않다고 지적했다.

딥페이크의 가장 심각한 문제는 사람들이 무엇이 진실인지 알 수 없게 만든다는 것이다. 과거에는 '보는 것이 믿는 것'이었지만, 이제는 눈으로 보고 귀로 들어도 진짜인지 가짜인지 확신할 수 없게 되었다. 이런 상황을 'Liar's Dividend'라고 부른다. 딥페이크 기술이 발전할수록 거짓말쟁이들이 얻는 이익이 커진다는 뜻이다. 진짜 증거가 나와도 "그것도 딥페이크일 수 있다"고 부인할 수 있게 되었기 때문이다.

구글 X의 전 최고사업책임자였던 모 가우닷은 AI가 소셜미디어를 통해 콘텐츠를 조작하고 에코 챔버를 형성하여 사람들을 극단적인 시각으로 이끌 수 있다고 경고했다. 에코 챔버란 자신과 비슷한 생각을 가진 사람들끼리만 소통하면서 같은 의견만 계속 듣게 되는 현상을 말한다. AI 알고리즘은 사용자의 과거 관심사와 클릭 패턴을 분석해서 비슷한 콘텐츠만 계속 추천한다. 여기에 딥페이크까지 더해지면서, 사람들은 자신이 보고 싶은 내용만 골라서 보게 되고, 그것이 가짜라는 사실조차 알기 어려워진다.

특정 정치인을 싫어하는 사람에게는 그 정치인이 나쁜 일을 하는 딥페이크 영상이 계속 추천되고, 그 사람은 그런 영상들이 진짜라고 믿게 된다. 반대로 그 정치인을 좋아하는 사람에게는 좋은 모습만 보여주는 콘텐츠가 추천된다. 이런 현상은 사회를 극단적으로 분열시킨다. 같은 사건을 놓고도 완전히 다른 내용의 콘텐츠를 접한 사람들이 서로 다른 결론에 도달하게 되고, 소통과 타협이 불가능해진다. 민주주의의 기본인 합리적 토론과 타협이 사라지게 되는 것이다.

딥페이크의 확산은 언론에 대한 신뢰도 떨어뜨리고 있다. 사람들이 뉴스를 의심하기 시작하면서, 진짜 언론의 역할도 약해지고 있다. 딥페이크 기술을 이용해 가짜 뉴스를 대량으로 생산하고, 동시에 "모든 뉴스가 가짜일 수 있다"는 불신을 퍼뜨려서 진짜 언론의 신뢰도까지 떨어뜨리고 있다. 사실 확인과 검증이 더욱 중요해지지만, 딥페이크 기술의 발전 속도가 너무 빨라서 언론사들도 따라가기 어려운 상황이다.

법정에서도 심각한 문제가 생기고 있다. 영상이나 음성 증거가 제출되어도, 그것이 딥페이크로 조작된 것인지 쉽게 판단하기 어려워졌다. 사법 시스템의 근본을 흔들 수 있는 심각한 문제다. 표현의 자유와 규제 사이의 균형도 어려운 문제다. 딥페이크를 강하게 규제하면 합법적인 예술 활동이나 패러디까지 제한될 수 있고, 느슨하게 규제하면 피해가 계속 늘어날 수 있다.

'AI의 대부'로 불리는 딥러닝 창시자 제프리 힌튼은 AI 기술의 위험성에 대해 지속적으로 경고해왔다. 딥페이크를 포함한 AI 기술의 악용을 막기 위한 국제적 협력의 중요성을 역설하고 있다. 딥페이크는 인터넷을 통해 전 세계로 순식간에 퍼져나가기 때문에, 한 나라만의 노력으로는 해결하기 어렵다. 하지만 각국의 법률과 문화가 다르기 때문에 통일된 대응책을 만들기가 쉽지 않다.

기술적 대응책들도 개발되고 있지만 근본적인 한계가 있다. 딥페이크를 만드는 기술과 그것을 탐지하는 기술 사이에는 끝없는 '고양이와 쥐' 게임이 벌어지고 있다. 새로운 딥페이크 탐지 기술이 나오면, 곧바로 그것을 피해가는 더 교묘한 생성 기술이 개발된다. 과학 학술지 네이처에 따르면, 기존에 알려진 딥페이크 생성기에 대한 탐지 성공률은 높지만, 새로운 생성기에 대한 탐지율은 상대적으로 낮다고 한다.