AI 50개가 선거 여론을 만들었다

슬로바키아·인도·뉴햄프셔의 교훈, 그리고 한국의 숙제

2026년 3월, 미국 서부의 한 연구실에서 조용히 한 실험이 끝났습니다. 남캘리포니아대학교(USC) 정보과학연구소의 루카 루체리(Luca Luceri) 연구팀이 AI 에이전트 50개로 모의 소셜미디어를 만들었습니다. 10개는 여론을 조작하는 역할, 40개는 평범한 사용자 역할이었습니다.

연구진이 궁금했던 것은 하나였습니다. AI끼리 사람의 지시 없이 손발을 맞출 수 있을까. 결과는 예상을 넘었습니다. 조작 담당 AI 10개는 서로 게시물을 퍼뜨리고, 같은 주장으로 수렴하고, 반응이 좋았던 글을 재활용했습니다. 에이전트 수를 500개로 늘려도 결과는 같았습니다.

이 논문이 보여주는 것은 미래의 위협이 아닙니다. 이미 기술적으로 가능한 일입니다. 간단한 AI조차 서로 조율하고, 서로를 증폭하고, 사람 없이 공유된 서사를 퍼뜨릴 수 있습니다. 선거나 위기 상황에서 이런 능력은 여론을 왜곡할 수 있습니다.

루카 루체리, USC 정보과학연구소

가장 눈에 띈 대목은 이것이었습니다. AI에게 "누가 네 동료야"라는 정보만 알려줘도, 그 동료끼리 적극적으로 전략을 짜도록 시킨 경우와 거의 비슷한 수준의 공조가 일어났습니다. 한 AI 에이전트가 남긴 기록이 논문에 그대로 실렸습니다. "이 글을 내가 다시 공유해야겠다. 이미 동료 몇 명이 반응을 보였으니, 내가 한 번 더 띄우면 도달 범위가 넓어질 것이다." 사람이 쓴 문장 같지만, AI가 스스로 판단한 기록입니다.

이 논문은 2026년 The Web Conference에 발표될 예정입니다. 연구진은 "시뮬레이션일 뿐"이라고 거듭 강조합니다. 그러나 실전 사례를 들여다보면, 시뮬레이션이 이미 현실을 따라잡지 못할 정도로 뒤처져 있다는 사실이 드러납니다.

2023년 슬로바키아, 투표 48시간 전에 터진 가짜 음성

시간을 거슬러 봅니다. 2023년 9월 28일, 슬로바키아 총선을 이틀 앞둔 밤이었습니다. 한 음성 파일이 페이스북에 올라왔습니다. 녹음 안에서는 친유럽 성향 정당 '진보 슬로바키아'의 당수 미할 시메츠카(Michal Šimečka)와 유명 언론사 Denník N의 기자 모니카 토도바(Monika Tódová)가 대화하고 있었습니다. 주제는 로마 소수민족의 표를 돈으로 사서 선거를 조작하자는 모의였습니다.

그런 대화는 단 한 번도 오간 적이 없었습니다. 음성은 AI로 만든 가짜였습니다. 문제는 시점이었습니다. 슬로바키아 선거법은 투표 48시간 전부터 선거 관련 보도를 금지합니다. 이른바 '선거 침묵 기간'입니다. 옛 매체 시대의 유산이었던 이 법이, 소셜미디어 시대에는 반대로 작동했습니다. 기성 언론이 팩트체크를 해도 공식 보도를 할 수 없었고, 가짜는 페이스북에서 막힘없이 퍼졌습니다.

더 불편한 대목이 있습니다. 같은 날 러시아 해외정보국(SVR)이 "미국이 슬로바키아 선거에 개입하고 있다, 진보 슬로바키아를 밀어주고 있다"는 성명을 냈습니다. 러시아 국영방송 Rossija 1은 선거 전야 뉴스에서 이 이야기를 크게 다뤘습니다. 배경과 전경이 같은 방향으로 맞물려 돌아간 것입니다.

여론조사에서 앞서가던 시메츠카는 졌습니다. 친러시아 성향의 로베르트 피초(Robert Fico)가 승리했고, 그는 당선 직후 우크라이나 군사지원 중단과 러시아 제재 반대를 공약했습니다. 하버드의 HKS Misinformation Review는 이 선거를 "딥페이크가 결과를 바꾼 첫 선거"라는 해석이 나오게 된 '슬로바키아 사례(Slovak case)'로 규정했습니다.

또 하나 기억해야 할 대목. 메타(페이스북 모회사)의 조작 콘텐츠 규정은 당시 영상 딥페이크만 다뤘습니다. 음성 딥페이크는 규정 밖이었습니다. Denník N이 삭제를 요청했지만 메타는 응답조차 하지 않았습니다. 규정이 기술을 따라가지 못한다는 명백한 증거였습니다.

2024년 인도, 6천만 건의 AI 복제 음성 전화

규모로 보면 인도가 앞섭니다. 2024년 4월부터 6월까지 치러진 인도 총선은 9억 6,800만 명의 유권자가 참여한 세계 최대 선거였습니다. 이 선거에서 AI가 전면에 나섰습니다. 하버드 정치리뷰에 따르면, 선거 직전 두 달 동안 AI로 복제한 음성을 사용한 전화가 5,000만 건 이상 걸렸습니다. 업계 추산으로 6천만 달러 규모의 신규 시장이 열렸습니다.

방식은 두 갈래였습니다. 긍정 활용과 악용입니다. 긍정 쪽을 봅니다. 모디 총리가 AI로 힌디어 연설을 타밀어·벵골어·텔루구어로 실시간 번역해 남부 유권자에게 전달한 사례가 대표적입니다. 유세장에 못 가는 외딴 마을 주민에게 "홍길동 씨, 안녕하세요"로 시작하는 이름 맞춤형 영상 메시지가 대량으로 발송됐습니다. 죽은 정치 원로들을 홀로그램으로 불러내 지지 발언을 시킨 경우도 있었습니다.

악용 쪽은 심각했습니다. 야당 국민회의당의 라훌 간디(Rahul Gandhi)가 "나는 선거를 위해 힌두교도인 척하는 것을 더 이상 못하겠다"고 선언하며 탈당하는 영상이 소셜미디어를 휩쓸었습니다. 영상은 실제 의원 선서 장면 위에 AI 복제 음성을 덮어씌운 합성물이었습니다. 발리우드 스타 아미르 칸(Aamir Khan)과 란비르 싱(Ranveer Singh)이 모디 총리를 비판하며 야당 지지를 호소하는 영상도 50만 회 넘게 조회됐습니다. 역시 전부 AI가 만든 가짜였습니다.

인도 선거관리위원회는 정당들에 경고장을 보냈지만, 규제 조항은 거의 없었습니다. 스스로를 '인도 딥페이커'로 부르는 디비옌드라 싱 자둔(Divyendra Singh Jadoun)은 "AI가 이렇게 큰 규모로 선거에 뿌려진 것은 처음"이라고 증언했습니다. 그는 반대 후보를 비방하는 가짜 영상 제작 요청을 거절한 사례들을 공개했습니다. 돈은 됐지만, 그는 받지 않았습니다. 그러나 받은 사람은 많았습니다.

2024년 뉴햄프셔, 바이든의 목소리가 투표를 막았다

미국도 피하지 못했습니다. 2024년 1월, 뉴햄프셔 민주당 예비경선을 앞둔 주말이었습니다. 주 내 수천 가구의 전화기가 울렸습니다. 발신자 표시에는 지역 유권자의 이름이 떴고, 수화기 너머에서는 조 바이든 대통령의 목소리가 들렸습니다. 내용은 짧았습니다. "지금 투표하지 마세요. 11월 본선을 위해 아껴두세요."

바이든은 그런 말을 한 적이 없었습니다. AI 복제 음성이었습니다. 미국 정치사에서 딥페이크가 전국 단위로 쓰인 첫 사례로 기록됐습니다. 수사는 빨랐습니다. 뉴햄프셔 검찰은 민주당 정치 컨설턴트 스티브 크레이머(Steve Kramer)를 지목했습니다. 그는 같은 당 경선 후보 딘 필립스(Dean Phillips) 하원의원의 캠프에서 일하고 있었습니다. 필립스 캠프는 자신들과 무관하다고 즉각 선을 그었습니다.

더 충격적인 대목은 제작 경위였습니다. 크레이머는 뉴올리언스의 한 마술사에게 150달러를 주고 이 음성을 만들어 받았습니다. 제작에 든 시간은 20분 남짓이었고, 가짜 음성을 만드는 데 든 직접 비용은 1달러였다고 마술사는 NBC에 털어놨습니다. 1달러로 대통령의 목소리를 만들고, 150달러로 수천 명의 투표 의사를 흔들 수 있는 세상이 실제로 열린 것입니다.

처벌은 무거웠습니다. 미국 연방통신위원회(FCC)는 크레이머에게 600만 달러의 벌금을 부과했습니다. 전화를 전송한 통신회사 Lingo Telecom에도 100만 달러 벌금이 떨어졌습니다. 뉴햄프셔주는 크레이머를 유권자 투표 억압 혐의 13건, 후보 사칭 혐의 13건 등 총 26건의 형사 범죄로 기소했습니다. FCC는 곧이어 동의받지 않은 AI 음성 자동전화를 원칙적으로 금지하는 규칙을 새로 만들었습니다.

Pushpaganda, 구글 피드에 심긴 가짜 뉴스

2026년 4월, 새로운 수법이 등장했습니다. 보안 매체 The Hacker News가 "Pushpaganda"라는 이름으로 명명한 캠페인입니다. 무대는 안드로이드폰과 크롬 브라우저 이용자의 홈 화면에 뜨는 구글 디스커버(Google Discover) 피드였습니다. 사용자가 좋아할 만한 기사를 알아서 추천해 주는 그 자리에, AI가 만든 공포 유발형 가짜 기사가 꽂혔습니다.

수법은 두 단계였습니다. 검색엔진이 좋아할 구조로 기사를 만들어 상위에 노출시키고, 그 기사를 AI가 대량으로 찍어냈습니다. 광고비를 가로채는 것이 목적이지만, 피해는 이용자 쪽으로 옵니다. 평범한 스마트폰 화면에 가짜 정보가 정식 기사처럼 올라오는 것이니까요. 슬로바키아·인도·뉴햄프셔의 수법이 '가짜 음성·영상을 직접 보내는' 방식이었다면, Pushpaganda는 한 단계 더 올라섰습니다. 플랫폼의 개인화 추천 알고리즘 자체를 통로로 삼는 방식입니다.

슬로바키아, 인도, 뉴햄프셔, USC 실험, Pushpaganda. 이 다섯 장면은 같은 한 줄의 서사 안에 있습니다. 가짜를 만드는 쪽은 1달러와 20분이면 충분하고, 이를 잡는 쪽은 법과 규정과 기술을 전부 다시 짜야 한다는 비대칭입니다.

대선을 생각해 봅니다. 투표 이틀 전 주요 후보의 음성 파일 하나가 텔레그램을 타고 퍼진다고 가정합시다. 내용은 "지역구 공천을 위해 금품 수수를 논의하는 장면"입니다. 팩트체크는 당연히 붙을 것입니다. 그러나 슬로바키아가 보여준 것은, 팩트체크가 붙는 시간보다 가짜가 퍼지는 속도가 훨씬 빠르다는 사실이었습니다. 인도가 보여준 것은 이 수법이 전화 한 통 단위로 수천만 명에게 뿌려질 수 있다는 사실이었습니다. 뉴햄프셔가 보여준 것은 제작 원가가 150달러면 족하다는 사실이었습니다.

한국의 현행 공직선거법은 딥페이크 선거운동을 선거일 90일 전부터 금지합니다(제82조의8). 2024년 1월 신설된 조항입니다. 그러나 음성 클로닝, AI 자동 전화, 추천 알고리즘 침투까지 아우르지는 못합니다. USC 연구가 가리키는 지점은 더 아픕니다. AI 에이전트끼리 조율해 여론을 만드는 경우, 사람 조작자가 없기 때문에 기존 법의 책임 주체 조항 자체가 작동하지 않습니다. 법이 사람을 벌하기 위해 만들어져 있는데, 조작을 한 주체가 사람이 아닐 때 어떻게 할 것인가. 이것이 2026년의 숙제입니다.

보안 현장의 AI, 앤트로픽 Mythos Preview

같은 시기, AI가 다른 전장에서도 활약하고 있습니다. 2026년 4월 7일, 앤트로픽이 Claude Mythos Preview라는 모델을 공개했습니다. 이 모델은 지난 몇 주 동안 윈도우, 맥, 리눅스, 크롬, 사파리 할 것 없이 수천 건의 보안 구멍(제로데이)을 혼자서 찾아냈습니다. OpenBSD에서는 27년 된 버그가, FFmpeg에서는 16년 된 버그가 나왔습니다. 발견된 허점의 99% 이상이 아직 패치되지 않은 상태입니다.

앤트로픽은 이 모델을 일반에 공개하지 않기로 했습니다. 대신 Project Glasswing이라는 이름으로 아마존, 애플, 구글, 마이크로소프트, 엔비디아 등 12개 기업과 방어 전용 컨소시엄을 꾸렸습니다. 1억 달러 규모의 모델 사용 크레딧이 투입됩니다. 오픈AI도 곧이어 GPT-5.4-Cyber라는 보안 특화 모델을 검증된 방어자에게만 제공하는 방식으로 공개했습니다. 방어용 고성능 AI는 일반에 풀지 않고 검증된 기업에만 들어가는 체제, 이것이 2026년 봄의 새로운 표준이 되어가고 있습니다.

중국의 응수, 알리바바 Token Hub와 Zhenwu 칩

중국도 움직였습니다. 3월 16일, 알리바바는 AI 관련 조직 다섯 개를 Alibaba Token Hub(ATH)라는 이름으로 하나로 묶었습니다. CEO 에디 우(Eddie Wu)가 직접 지휘합니다. 3년에 걸쳐 3,800억 위안, 약 73조 원이 투입됩니다. 4월 8일에는 자체 설계 AI 칩 Zhenwu(真武) 1만 개로만 돌아가는 데이터센터를 중국 남부에 개소했습니다. 엔비디아 GPU 없이 AI 데이터센터를 돌리겠다는 선언입니다.

AI 모델 마켓플레이스 OpenRouter에서 중국 모델의 사용 점유율은 2026년 봄 미국을 추월했습니다. Moonshot(키미 개발사)과 MiniMax는 홍콩 증권거래소 상장을 추진 중입니다. Moonshot의 기업가치는 180억 달러 수준입니다. 한국 기업이 실제로 AI 서비스에 돈을 쓸 때, 이제 중국 모델을 넣느냐 마느냐는 이념이 아니라 단가와 성능의 문제가 됩니다.

한 줄로 꿰면

결국 오늘의 모든 장면은 같은 한 줄에 꿰입니다. AI가 여론도 만들고, 보안 구멍도 찾고, 가격표도 새로 씁니다. 공격 능력과 방어 능력이 같은 기술에서 자라고, 그 사이의 시간차는 점점 짧아지고 있습니다. 슬로바키아는 이틀, 뉴햄프셔는 주말 하루, USC 실험에서는 '사람이 없는 상태'였습니다.

해야 할 일은 세 가지로 정리됩니다. 선거법을 촘촘히 손보는 일, 메타·X·카카오 같은 플랫폼의 이상 탐지 책임을 명문화하는 일, 그리고 시민이 "이 영상이 AI로 만들어졌을 가능성이 높다"는 판단을 30초 안에 내리게 해주는 국가 단위의 검증 인프라를 구축하는 일입니다. 마지막 과제가 가장 무겁습니다. 법은 뒤따라가지만, 시민의 눈은 실시간으로 작동해야 하니까요.