스키너 상자 속의 비둘기가 시계 반대 방향으로 몸을 돌립니다. 잡지 소리가 들리고 빛이 번쩍이면 먹이가 나옵니다. 비둘기는 보상을 얻기 위해 특정 행동을 반복하도록 길들여졌습니다. 이 실험은 오래전 기록이지만, 스마트폰 화면에 뜨는 작은 빨간 알림 점을 통해 우리 일상에 그대로 재현되고 있습니다. 이 작은 점은 인간의 주의력을 포착하고 행동을 유도하기 위해 정교하게 설계된 시스템의 결정체입니다. 이제 이 시스템은 인공지능이라는 옷을 입고 한 단계 더 나아간 공방전을 준비하고 있습니다.

1. 에이전트 대 에이전트의 끝없는 공방

2026년 3월, 샌프란시스코 모스콘 센터에서 열린 RSA 컨퍼런스의 모든 기조연설, 패널, 부스에서 하나의 주제가 지배했습니다. 에이전트 AI(Agentic AI). 도구로서의 AI가 아니라 행위자로서의 AI. 스스로 코드를 작성하고, 인간의 개입 없이 의사결정을 내리고 실행하는 시스템의 시대가 열렸다는 선언이었습니다.

가트너는 2026년 말까지 기업 애플리케이션의 40%가 특정 업무 전용 AI 에이전트를 내장할 것으로 전망했습니다. 2025년에는 5%에 불과했던 수치입니다. 마이크로소프트, 구글, 앤스로픽, 오픈AI, 세일즈포스가 앱과 데이터를 넘나들며 행동하는 에이전트 시스템을 배치하고 있습니다. 팔로알토 네트웍스의 분석에 따르면, 하이브리드 업무 환경에서 자율 에이전트의 수가 인간을 82대 1로 압도하는 상황이 됐습니다. 공격자가 AI로 위협의 규모와 속도를 끌어올리는 동안, 방어자도 같은 속도로 대응해야 합니다.

문제는 이 에이전트들이 양쪽 모두에 무기가 된다는 점입니다. 팔로알토 네트웍스 Unit 42 연구팀은 에이전트 AI 공격 프레임워크를 개발해 실험했는데, AI가 랜섬웨어 공격을 초기 침투에서 데이터 유출까지 25분 만에 완료하는 것을 보여줬습니다. 공격 생명주기가 100배 가속된 셈이거든요. 맥킨지의 내부 AI 플랫폼 "릴리(Lilli)"를 대상으로 한 레드팀 실험에서는 자율 에이전트가 2시간 이내에 광범위한 시스템 접근 권한을 확보했습니다. 인간의 대응 속도를 에이전트의 위협이 순식간에 추월한다는 것을 적나라하게 보여준 사례였습니다.

해시드의 김서준 대표는 "다가오는 30개의 균열"에서 이 상황을 예견했습니다. "AI 보안 에이전트가 이상 징후를 밀리초 내에 탐지하고 격리한다. 오탐률이 크게 내려간다. 방어가 강해진 만큼 공격도 강해져서, 보안의 종착지는 에이전트 대 에이전트의 끝없는 군비경쟁이다." 4개 AI 모델이 독립 평가한 3년 내 실현 확률은 75%였습니다.

이 군비경쟁은 미래의 이야기가 아닙니다. 구글 클라우드는 2026년 4월 클라우드 넥스트 컨퍼런스에서 자율 보안 운영을 위한 AI 에이전트를 공개했습니다. 위협 사냥 에이전트, 탐지 공학 에이전트가 인간 분석가의 역할을 대신합니다. 구글 클라우드 CEO 토마스 쿠리안은 "에이전트 엔터프라이즈는 현실이 되었고, 세계가 본 적 없는 규모로 배치되고 있다"고 말했습니다. 방어 에이전트는 위협 인텔리전스와 AI 기반 탐지를 결합해 점점 정교해지는 공격 벡터에 대응합니다. 공격 에이전트는 방어 에이전트의 예측 가능성을 역이용해 더 교묘한 침투를 시도합니다.

2026년 후반의 위협 지형은 세 단어로 요약됩니다. 지속성, 자율성, 규모. 공격자들은 에이전트의 고유한 구조, 즉 메모리, 도구 접근 권한, 에이전트 간 의존성을 노리는 기법을 산업화했습니다. 프롬프트 인젝션과 조작, 도구 오용과 권한 상승, 메모리 오염, 연쇄 장애, 공급망 공격이 동시다발로 벌어집니다. 기존의 SIEM과 EDR 도구는 인간의 행동에서 이상 징후를 탐지하도록 설계되었습니다. 에이전트가 코드를 1만 번 연속으로 완벽하게 실행하는 것은 이 시스템에 정상으로 보입니다. 그런데 그 에이전트가 공격자의 의지를 실행하고 있을 수 있습니다.

감시 자본주의의 논리가 사이버 공격에도 그대로 적용되고 있는 겁니다. 인간의 미세한 행동을 수집해 행동 데이터를 추출하고, 미래의 행동을 예측하고 형성하는 피드백 루프. 이 구조가 에이전트 간 전쟁터로 옮겨갔습니다. Dark Reading의 설문조사에서 사이버 보안 전문가의 48%가 에이전트 AI와 자율 시스템을 가장 위험한 공격 벡터로 꼽았습니다. 에이전트들이 쉴 새 없이 공격과 방어를 주고받는 이 경쟁에서 개인의 의지는 수천 번의 자동화된 공방 속에서 점차 희미해집니다.

2. AI 생성 피싱과 사회공학적 공격의 정교화

1835년 뉴욕 선 신문은 달에 날개 달린 인간이 살고 있다는 조작된 기사로 엄청난 부를 쌓았습니다. 주의력을 끄는 것이 진실보다 경제적으로 중요하다는 사실을 보여준 이 사건은, 인공지능 시대에 비교할 수 없이 치밀한 형태로 부활하고 있습니다.

숫자부터 보겠습니다. APWG(Anti-Phishing Working Group)는 2024년 한 해 동안 480만 건의 피싱 공격을 기록했습니다. 이 기관이 2003년에 설립된 이래 최고 수치였습니다. 2025년 4분기에만 853,244건이 집계됐고, 2분기에는 1,130,393건으로 치솟았습니다. Verizon의 2025 데이터 유출 조사 보고서(DBIR)에 따르면 피싱 이메일을 클릭하는 데 걸리는 중앙값 시간은 21초, 신고까지 걸리는 시간은 28분이었습니다. 그 28분의 창 안에서 클릭한 사람 3명 중 1명이 공격자 사이트에 자격 증명을 입력합니다.

AI가 이 판을 완전히 바꿔놓았습니다. 2024년 9월부터 2025년 2월 사이 탐지된 피싱 이메일의 82.6%가 AI를 사용했습니다. 전년 대비 53.5% 증가한 수치입니다. 이것은 미래 전망이 아닙니다. 현재 현실입니다. Cofense는 2025년에 보안 이메일 게이트웨이를 통과하는 악성 이메일이 19초마다 1건이라고 보고했습니다. Mimecast는 2025년 처음 9개월 동안 93억 건의 위협을 포착했고, ClickFix 사기가 500% 급증했다고 발표했습니다.

과거의 피싱은 양에 의존했습니다. 수백만 통의 엉성한 이메일을 보내고 몇 명이 클릭하기를 바라는 방식이었습니다. AI가 이 방정식을 근본적으로 바꿨습니다. 공격자는 이제 문법적으로 완벽하고, 개인화되고, 맥락을 인식하는 메시지를 몇 초 만에 생산합니다. IBM의 2025년 데이터 유출 비용 보고서는 피싱을 데이터 유출의 1위 초기 접근 벡터로 꼽았습니다. 전체 유출의 16%, 건당 평균 비용 480만 달러. 그리고 6건 중 1건에 공격자 AI가 개입했는데, 그중 37%가 피싱, 35%가 딥페이크 사칭이었습니다.

2024년 2월 홍콩에서 벌어진 사건이 이 위협의 실체를 보여줍니다. 한 다국적 기업 직원이 딥페이크로 만든 가짜 화상회의에 속아 약 340억 원의 손해를 입었습니다. 화면에 나타난 모든 사람이 자신이 아는 동료들이었습니다. 목소리도, 얼굴도, 말투도 완벽했습니다. 2025년 한 해 동안 조직의 85%가 최소 1건의 딥페이크 관련 사건을 경험했다는 조사 결과가 있습니다. 딥페이크 사건은 2023년 50만 건에서 2025년 800만 건 이상으로 급증했습니다.

공격자는 LinkedIn 데이터를 스크래핑해 초개인화된 미끼를 생성합니다. 첫 번째 시도가 실패하면 에이전트가 스스로 대안적 사회공학 채널을 시도합니다. AI가 치료자나 상담가로 쓰이면서 사람들이 가장 무방비한 상태에서 취약점을 털어놓는 상황도 생겨났습니다. 공격자는 이런 정보를 바탕으로 "도움이 되는 척하는" 공격을 설계합니다. 배너 광고처럼 눈에 띄는 방식이 아닙니다. 우리의 가장 내밀한 두려움과 욕망을 자극하는 조용한 통합의 방식입니다.

cobalt.io의 설문조사에서 사이버 보안 전문가의 97%가 자기 조직이 AI 기반 사건에 직면할 것을 우려했고, 93%가 가까운 미래에 매일 AI 공격을 경험할 것으로 예상했습니다. 스팸 발송자는 대규모 언어모델을 사용해 캠페인 비용을 95% 절감합니다. 비용은 줄고 정교함은 올라갑니다. ENISA의 2025년 위협 보고서는 EU 초기 접근 사례의 60%가 피싱이었고, AI 지원 피싱이 관측된 캠페인의 80% 이상을 차지한다고 밝혔습니다.

구글 클라우드의 2026년 사이버 보안 전망 보고서는 한마디로 정리합니다. "위협 행위자의 AI 사용은 규범으로 결정적으로 전환될 것이다." AI 음성 복제를 이용한 보이스 피싱(비싱)이 특히 우려되는 벡터로 떠오르고 있습니다. SNS에 올린 몇 초간의 음성만 확보하면 정교한 가짜 목소리를 생성할 수 있는 시대. "엄마, 나야. 급한 일이 생겨서 돈이 필요해." 이 전화가 진짜인지 가짜인지 구별하는 일이 점점 불가능해지고 있습니다.

3. 디지털 신뢰 인프라의 근본적 동요

"화면에서 보는 것이 사진이든 영상이든 오디오든 더 이상 믿을 수 없게 되었다." 유발 하라리의 이 경고는 2026년에 이르러 산업 전체의 위기로 번졌습니다. 그가 "진실의 종말 시대"라고 표현한 것이 구체적인 인프라 문제로 드러나고 있기 때문입니다.

전 세계 디지털 데이터는 2025년 175제타바이트에 도달했습니다. 이 거대한 콘텐츠 홍수 속에서 온라인 콘텐츠의 62%가 가짜일 수 있다는 연구 결과가 나왔습니다. 기업들은 디지털 진위 확인 실패, 허위 정보, 합성 미디어 사기로 건당 수백만 달러의 비용을 지불하고 있습니다. 가트너는 디지털 출처 증명(digital provenance)을 2030년까지 IT를 변화시킬 10대 기술 트렌드에 포함시켰습니다.

이 위기에 대한 대응으로 등장한 것이 C2PA(Coalition for Content Provenance and Authenticity)입니다. 어도비, 마이크로소프트, 구글, 소니, 인텔이 참여하는 이 연합체는 디지털 콘텐츠에 암호학적 출처 메타데이터를 묶어 진위를 검증하는 개방형 표준을 만들고 있습니다. 콘텐츠 인증 이니셔티브(CAI)에 6,000개 이상의 조직이 가입했습니다. 라이카가 2023년 최초의 C2PA 카메라를 출시했고, 삼성 갤럭시 S25와 구글 픽셀 10이 네이티브 서명 기능을 탑재해 일반 소비자 하드웨어에 자격 증명 생성 기능이 보급되고 있습니다. 링크드인, 틱톡, 클라우드플레어가 자격 증명을 지원하거나 보존합니다.

규제도 따라가고 있습니다. EU AI법 제50조 시행이 2026년 8월 시작되어 AI 생성 콘텐츠에 기계 판독 가능한 공개를 요구합니다. 캘리포니아 SB 942는 2026년 1월 발효되었습니다. 그런데 치명적인 간극이 있습니다. 서명은 검증보다 앞서 달리고 있다는 것. 대부분의 유통 중개자가 여전히 내장된 메타데이터를 제거하기 때문에, 서명된 콘텐츠가 시청자에게 자격 증명 없이 도착하는 경우가 허다합니다. C2PA는 딥페이크 단서를 찾거나 콘텐츠를 사실 확인하는 시스템이 아닙니다. 신뢰성을 표시하는 시스템입니다. 유화의 진위를 증명하는 출처 문서처럼, 디지털 콘텐츠가 어떤 손을 거쳤는지를 기록하는 것입니다.

세계프라이버시포럼의 보고서는 C2PA가 널리 오해되고 있다고 경고합니다. 이 표준이 조용히 새로운 미디어 인프라 기술 계층을 깔고 있는데, 이 계층은 창작자에 대한 방대한 공유 가능 데이터를 생성하고 상업적, 정부, 심지어 생체 인식 신원 시스템에 연결될 수 있다는 것입니다. "누가 '신뢰할 수 있음'을 결정하는가?" 이 질문은 기술적 질문이 아니라 권력의 질문입니다.

사이버 보안은 이제 기술적 방어를 넘어 디지털 주권(Digital Sovereignty)을 지키는 핵심 요소가 되었습니다. 데이터가 어디에 위치하며 누가 접근권을 가지는지가 규정 준수의 문제가 아니라 리스크 관리의 본질입니다. 신뢰는 혁신의 규모를 결정하는 경쟁 우위가 됩니다. AI가 복잡한 데이터 처리를 가속화하면서, 이 과정이 투명하게 통제되고 있음을 입증할 수 있는 능력이 인프라의 안정성을 좌우합니다.

팔란티어가 40여 개국 정부와 계약을 맺고 이메일, 전화 통화, 금융 거래, 위치 정보, 소셜미디어 활동 등 개인의 모든 디지털 흔적을 추적하고 분석할 수 있는 시스템을 운영하는 현실. 2024년 12월 기준 팔란티어의 시가총액이 1,740억 달러로 록히드마틴(1,216억 달러)을 넘어선 현실. 소프트웨어 기반 감시 기술이 전통적 방산업체보다 더 큰 가치를 인정받고 있다는 것은, 디지털 신뢰 인프라의 주도권이 누구에게 있는지를 보여주는 지표입니다.

유발 하라리가 말한 "Liar's Dividend"가 여기서 작동합니다. 딥페이크 기술이 발전할수록 거짓말쟁이들이 얻는 이익이 커집니다. 진짜 증거가 나와도 "그것도 딥페이크일 수 있다"고 부인할 수 있게 되었으니까요. 신뢰의 기반이 무너지면 사회 전체가 흔들립니다. 하지만 그 신뢰를 재건하기 위해 만든 시스템이 또 다른 감시의 도구가 될 수 있다는 아이러니. 이것이 2026년 디지털 신뢰 인프라가 직면한 근본적 딜레마입니다.

4. 개인 데이터의 무기화와 프라이버시의 재정의

당신이 아침에 일어나 스마트폰을 확인하고, 지하철을 타고 출근하며, 카페에서 커피를 마시고, 온라인 쇼핑을 하는 모든 순간이 데이터가 됩니다. 그 데이터는 당신의 동의 없이 수집되고 분석되며 판단의 근거가 됩니다. 그리고 이제 그 데이터는 당신을 공격하는 무기가 됩니다.

개인의 행동 데이터는 수집되는 대상에 그치지 않습니다. 사용자를 플랫폼에 더 의존하게 만드는 행동 수정의 도구로 쓰입니다. 사용자가 시스템의 원리를 이해하지 못하도록 불투명하고 모호한 언어 뒤에 이 논리가 숨겨져 있습니다. 페이스북에서 '좋아요'를 누르는 패턴만으로 그 사람의 정치적 성향을 90% 이상의 정확도로 예측할 수 있다는 연구 결과가 있습니다. 위치 데이터는 일상적인 활동 패턴, 만나는 사람들, 자주 가는 장소를 파악하게 해줍니다. 평소와 다른 패턴으로 이동하는 사람을 '의심스러운 행동'으로 분류해 추가 감시 대상으로 지정할 수 있습니다.

이 데이터 무기화는 사이버 공격과 결합하면서 전혀 다른 차원의 위협이 됩니다. Unit 42의 2026년 사건 대응 보고서에 따르면 신원 약점이 조사 건의 거의 90%에 관련되어 있습니다. 공격자는 에이전트를 사용해 링크드인 데이터를 스크래핑하고 초현실적인 미끼를 생성합니다. 첫 번째 사회공학 시도가 실패하면 에이전트가 스스로 대안 채널을 시도하는 자기 프롬프팅(self-prompting) 방식입니다. 트렌드마이크로의 2025년 중반 스캔은 200개 이상의 보호되지 않은 Chroma 서버와 3,000개 이상의 AI 구성 요소가 온라인에 공개적으로 노출되어 데이터 도난이나 모델 오염이 가능하다고 밝혔습니다.

FBI의 2024년 IC3 보고서는 193,407건의 피싱 불만을 기록했고, 비즈니스 이메일 사기(BEC) 손실은 21,442건에 걸쳐 27억 7천만 달러, 총 사이버 범죄 손실은 166억 달러로 전년 대비 33% 증가했습니다. 미국 기업의 64%가 2024년에 BEC 사기를 경험했고, 건당 평균 손실은 약 15만 달러였습니다. 이 숫자들 뒤에는 개인 데이터의 정교한 수집과 분석이 있습니다.

2013년 에드워드 스노든이 폭로한 NSA의 프리즘 프로그램은 구글, 페이스북, 애플, 마이크로소프트의 서버에 직접 접속해 개인 메일, 사진, 통화 기록을 실시간으로 수집했습니다. 35개국 정상의 휴대폰을 도청한 사실이 밝혀졌습니다. 메르켈 독일 총리는 10년간 감청당했습니다. 스노든의 폭로 이후 13년이 흘렀고, 그동안 AI 기술은 비약적으로 발전했습니다. 과거 NSA의 감시가 방대한 통신 데이터를 수집하는 데 중점을 두었다면, 이제 AI는 그 데이터를 실시간으로 분석하고 예측하는 단계로 진화했습니다. AI 알고리즘은 인간 분석가가 수년에 걸쳐 처리할 양의 데이터를 몇 분 만에 분석합니다.

파이브 아이즈(Five Eyes) 정보 동맹의 교묘한 점은 각국의 법적 제약을 우회한다는 것입니다. 미국 정부가 자국민을 직접 감시하는 것은 법적으로 제한이 있지만, 영국이 수집한 미국인의 정보를 받아보는 것은 상대적으로 자유롭습니다. 각국의 개인정보 보호법과 감시 제한 규정을 사실상 무력화시킵니다.

중국의 사회신용시스템은 개인 데이터 무기화의 극단적 사례입니다. CCTV, 얼굴인식, 인터넷 사용 기록, 쇼핑 내역, 교통 위반 기록이 통합되어 국민 한 사람 한 사람의 행동을 점수화합니다. 화웨이는 위구르족만을 식별하는 감시 카메라 시스템을 개발했고, 시스템이 위구르인을 감지하면 자동으로 '위구르 알람'을 발동해 경찰에 통보합니다. 기술이 인종차별의 도구가 된 사례입니다.

프라이버시는 이제 정보를 숨기는 것을 넘어, 나의 데이터가 나를 조종하는 데 쓰이지 않도록 방어하는 문제로 재정의되어야 합니다. 인간적 대행성(Agency)의 보존이라는 의미에서요. 팔레스타인 시인 모사브 아부 토하는 세 살 아이와 함께 피란길에 올랐다가 안면인식 AI의 오류로 수배자로 잘못 분류되어 이틀간 구금되고 고문당했습니다. 기계의 실수가 한 사람의 인생에 씻을 수 없는 상처를 남겼습니다. 이스라엘의 라벤더 시스템에서 한 정보요원은 이렇게 증언했습니다. "인간으로서 나는 승인 도장을 찍는 것 외에 아무런 역할을 하지 않았다."

Cisco의 2025 사이버 보안 준비도 지수에서 사이버 책임을 가진 비즈니스 리더의 86%가 지난 12개월 동안 최소 1건의 AI 관련 사건을 경험했다고 보고했습니다. CISO의 78%가 AI 기반 위협이 자기 조직에 "상당한 영향"을 미치고 있다고 말합니다. 가트너는 2026년 AI 지출이 44% 성장하고 2029년에는 47조 달러에 이를 것으로 전망합니다. 이것은 같은 해 정보 보안 및 리스크 관리 솔루션에 대한 예상 지출 2,380억 달러를 아득히 초과하는 규모입니다.

세계은행의 지니 계수가 부의 불평등을 숫자로 보여주듯, 인공지능 기술의 독점과 데이터 접근의 차이는 새로운 형태의 권력 불균형을 낳고 있습니다. 상위 1%가 세계 부의 45~50%를 소유하는 현실은 디지털 공간에서도 데이터 주권을 가진 소수와 그렇지 못한 다수의 격차로 반복됩니다. 에이전트들이 쉴 새 없이 공격과 방어를 주고받는 이 군비경쟁의 끝에서, 우리는 기술이 인간을 돕기 위해 존재하는지, 아니면 인간이 기술을 위한 데이터 연료로 전락했는지 묻게 됩니다.