2장 전 세계를 감시중인 인공지능

"빅 브라더가 당신을 지켜보고 있다" - 조지 오웰

1. 24시간 지켜보는 AI의 눈

당신이 지금 이 글을 읽고 있는 순간에도, 보이지 않는 수천 개의 눈이 당신을 지켜보고 있다. 스마트폰 속 카메라, 거리의 CCTV, 지하철역의 안면인식 시스템, 심지어 당신이 좋아요를 누른 소셜미디어 게시물까지. 모든 것이 데이터가 되어 어디선가 분석되고 저장되고 있다.

인공지능은 원래 인류의 삶을 더 풍요롭고 편리하게 만들기 위해 태어났다. 의료진단을 도와주고, 교통체증을 해결하고, 언어의 장벽을 허물어주는 마법 같은 기술로 말이다. 하지만 현실은 어떤가? 그 똑똑한 기술이 사람들을 감시하고 통제하며, 심지어 생명을 위협하는 무기로 변모하고 있다. 기술 자체가 악한 것이 아니다. 문제는 그 기술을 쥔 손이 무엇을 하려 하느냐이다.

이스라엘의 라벤더 시스템이 팔레스타인 사람들의 생사를 숫자로 계산할 때, 중국의 천라지망이 14억 인구의 일거수일투족을 추적할 때, 미국의 팔란티어가 전 세계 정보를 실시간으로 분석할 때, 우리는 깨달아야 한다. 인공지능이 더 이상 우리의 편리한 도구가 아니라, 우리를 옥죄는 족쇄가 되고 있다는 것을.

전 세계로 확산되고 있는 AI 감시 시스템들에는 섬뜩한 공통점이 있다. 첫째, 당신의 동의 따위는 묻지 않는다. 당신이 원하든 원하지 않든 개인정보를 대량으로 수집해버린다. 둘째, 그 알고리즘이 어떻게 작동하는지 아무도 모른다. 마치 마법의 검은 상자처럼 불투명하기 그지없다. 셋째, 완벽하지 않으면서도 중요한 결정을 내린다. 10%의 오차율이라니, 그 10% 안에 당신이 들어갈 수도 있다는 뜻이다. 넷째, 특정 집단을 차별적으로 겨냥한다. 피부색이 다르거나, 믿는 종교가 다르거나, 정치적 성향이 다르다는 이유만으로.

이것은 단순한 기술의 문제가 아니다. 인간의 존엄성, 프라이버시, 표현의 자유, 종교의 자유 등 민주주의 사회가 지켜온 모든 가치를 뿌리째 흔드는 인권의 문제다. 한국의 국가인권위원회조차 2024년 5월 '인공지능 인권영향평가 도구'를 활용하라고 권고했을 정도로, 우리나라도 이 문제에서 자유롭지 않다.

지금 이 순간, 인공지능 기술이 인간을 해방시키는 도구가 될지, 아니면 인간을 억압하는 족쇄가 될지가 결정되고 있다. 그 결정권자는 정부나 기업이 아니다. 바로 당신이고, 나이며, 우리 모두다.

2. 이스라엘의 '라벤더' 시스템

2024년 4월, 세상을 충격에 빠뜨린 폭로가 있었다. 이스라엘-팔레스타인의 독립 매체 '+972 매거진'과 히브리어 매체 '로컬콜'이 공개한 '라벤더(Lavender)' AI 시스템의 실체였다. 그 내용은 우리가 AI에 대해 품었던 모든 악몽을 현실로 만든 것이었다.

이스라엘군 정보부대가 개발한 이 AI는 마치 신의 눈처럼 가자지구를 내려다보며, 230만 명의 운명을 1점부터 100점까지의 숫자로 매겼다. 하마스 무장대원일 가능성을 점수로 계산한다는 것이다. 당신이 누구와 통화하는지, 어떤 앱을 다운로드하는지, 어디를 자주 방문하는지 모든 것이 알고리즘의 먹이감이 되었다.

라벤더는 이미 알려진 하마스 요원들의 데이터를 먼저 학습했다. 그들이 사용하는 휴대폰의 브랜드, 자주 다운로드하는 앱, 통화 패턴, 이동 경로까지. 그리고 이와 비슷한 패턴을 보이는 사람들을 차례로 찾아내며 점수를 매겼다. 마치 독감 바이러스가 전파되듯, 연결고리를 따라 의심의 그물망을 넓혀갔다.

생명을 숫자로 계산하는 알고리즘

이스라엘군은 라벤더가 90%의 정확도를 보인다며 만족해했다. 90%라니, 얼핏 들으면 상당히 높은 수치다. 하지만 잠깐, 이것이 무엇을 의미하는지 생각해보자. 10%는 틀릴 수 있다는 뜻이다. 라벤더가 37,000명을 공격 목표로 지정했다면, 그 중 3,700명은 무고한 사람들일 수 있다는 얘기다. 3,700명의 목숨을 오차 범위라고 부를 수 있을까?

더욱 끔찍한 것은 전쟁이 시작된 후 인간의 검증 절차마저 느슨해졌다는 점이다. 전쟁 이전에는 "인간이 직접 얻은 최소 두 개의 정보가 라벤더 AI의 판단을 뒷받침해야 한다"는 내부 규정이 있었다. 하지만 가자 전쟁이 시작되자 이 기준이 "한 개"로 낮아졌고, 실전에서는 이마저도 무시되는 경우가 허다했다.

한 정보분석관의 증언은 소름끼친다. "우리는 라벤더 인공지능의 결정에 확인 도장만 찍었다. 목표물 공격을 승인하는 데 단 20초밖에 걸리지 않았다." 생사를 가르는 중요한 결정을 실질적으로 인공지능이 내리고 있었던 것이다. 인간의 판단은 그저 형식적인 절차에 불과했다.

한 장교의 냉소적인 말이 모든 것을 요약한다. "돈·시간·인력을 아끼는 것이 민간인 목숨보다 훨씬 중요했다."

"아빠는 어디에?" - 가족을 인질로 잡는 시스템

라벤더와 함께 운영되는 또 다른 시스템은 그 이름부터 소름끼친다. "아빠는 어디에?(Where's Daddy?)"라고 불리는 이 추적 시스템은 목표 인물이 집에 돌아오는 순간을 감지해 이스라엘군에 알려준다.

왜 하필 "아빠는 어디에?"일까? 그 이유는 단순하면서도 잔혹하다. 아버지가 집에 돌아오는 시점을 노려 공격하기 때문이다. 이 시스템은 목표 인물의 일상 패턴을 학습하고, 집 위치를 파악하며, 언제 집에 들어가는지 실시간으로 감시한다.

이스라엘 장교의 증언은 충격적이다. "우리는 하마스 요원들이 군사 건물에 있거나 군사 활동을 할 때만 공격한 것이 아니다. 집에 있을 때 그들을 공격하는 것이 훨씬 쉬웠고, 시스템은 하마스 요원들이 집에 있는 것을 파악하기 위해 만들어진 것이다."

결과는 예측 가능했다. 한 명의 목표물을 제거하기 위해 그의 가족 전체가 함께 죽어갔다. 집에서 폭격을 당하면 여성과 어린이들인 가족들이 함께 희생될 수밖에 없었다. 국제법이 명시하고 있는 민간인 보호 원칙을 정면으로 무시한 행위였다.

부수적 피해라는 이름의 대량 학살 허가증

이스라엘군 정보요원 6명이 증언한 내용은 더욱 충격적이다. 전쟁 초기 몇 주 동안, 이스라엘군은 라벤더가 지목한 각 무장대원을 암살할 때 15명에서 20명의 민간인이 희생되어도 '용인 가능한 범위'라고 인정했다. 하마스 사령관급을 공격할 때는 100명 이상의 민간인 사망도 허용했다고 한다.

미국 국무부의 국제법 전문가는 가디언과의 인터뷰에서 "1대 15라는 비율은, 특히 하급 전투원에 대해서는 전혀 들어보지 못했다"고 말했다. 이스라엘이 적용한 민간인 피해 허용 기준이 국제적으로 전례가 없을 정도로 관대했다는 뜻이다.

IDF 내부 증언자들의 말이 이 모든 상황을 요약한다. "하위급 무장 세력에게 이스라엘군의 인력과 시간을 과도하게 쓰고 싶지 않았다. 부수적인 피해와 민간인 살상, 그리고 실수로 무고한 사람을 공격하는 오류를 감수하고라도 AI를 쓸 만했다."

인간의 존엄성을 부정하는 기계의 판결

라벤더 시스템의 가장 큰 문제는 인간의 생명을 단순한 데이터로 취급한다는 점이다. 사람의 삶과 감정, 가족과의 관계, 개인의 역사는 모두 무시되고, 오직 인공지능 알고리즘이 계산한 확률에 의해 생사가 결정된다. 이는 인간 존엄성에 대한 근본적인 부정이며, 기술이 인간을 위해 존재해야 한다는 원칙을 완전히 뒤집는 것이다.

투명성도 전혀 없다. 알고리즘이 어떤 기준으로 누군가를 위험한 인물로 분류하는지 정확히 알 수 없으며, 잘못 분류된 사람들이 자신의 무고함을 증명할 방법도 없다. 적법한 절차나 법적 보호 없이 사람들의 생명을 빼앗는 것이다.

가자지구의 안면인식 지옥

라벤더와 함께 이스라엘이 가자지구에 도입한 안면인식 기술은 또 다른 악몽이었다. 2023년 가자지구 전쟁 발발 이후 하마스 관련자를 색출하고 이스라엘 인질을 식별한다는 명분으로 도입된 이 시스템은, 실제로는 팔레스타인 주민들을 무차별적으로 감시하는 도구가 되었다.

이스라엘 정보부대 8200이 주도하는 이 작전에서는 민간기업 '코사이트(Corsight)'의 안면인식 기술이 사용되었다. 검문소, 드론, 군용 카메라를 통해 운영되며, 코사이트 직원들이 현장에 직접 투입되어 기술 지원을 제공했다.

가자지구에 배치된 이스라엘 군인들에게는 이 기술이 탑재된 카메라가 제공되어, 피란민들이 검문소를 통과할 때마다 얼굴을 무작위로 촬영하고 스캔한 후 기존 데이터베이스와 대조하여 신원을 특정했다.

코사이트는 자사의 안면인식 기술이 "얼굴의 50% 미만 노출 시나 어둠 속·저화질 환경에서도 정확한 인식이 가능"하다고 자랑했다. 하지만 현실은 달랐다. 팔레스타인 시인 모사브 아부 토하가 그 산 증인이다. 그는 세 살 아이와 함께 피란길에 올랐다가 이스라엘군 검문소에서 안면인식 카메라에 스캔되었고, AI의 오류로 수배자 명단에 오른 사람으로 잘못 파악되면서 이틀간 구금되어 구타와 고문을 당했다.

국제앰네스티는 이러한 이스라엘의 행위를 "자동화된 아파르트헤이트"라고 비판했다. AI 기술이 전쟁과 감시에 악용될 때 발생할 수 있는 심각한 인권 침해의 대표적인 사례가 되었다.

3. 걸음걸이만으로도 당신을 찾아내는 중국

중국의 천라지망(天網) 시스템 앞에서는 숨을 곳이 없다. 이 이름은 노자의 『도덕경』에서 따온 것으로, "하늘 그물의 눈은 매우 넓어서 성긴 것 같지만 악인은 하나도 놓치지 않는다"는 뜻이다. 하지만 여기서 말하는 '악인'의 기준은 누가 정하는가? 바로 중국 공산당이다.

14억 인구를 1초 만에 스캔

중국은 전국에 10억 대가 넘는 CCTV를 설치했다. 상상해보라. 10억 개의 눈이 24시간 내내 당신을 지켜보고 있다는 것을. 중국 정부는 이 시스템을 통해 전체 인구를 1초 만에 조사할 수 있다고 자랑한다. 14억 명의 얼굴을 1초 만에 구분해낸다니, 기술적으로는 경이롭지만 인권적으로는 끔찍한 일이다.

중국의 안면인식 기술은 세계 최고 수준이다. 2018년 미국표준연구소(NIST)가 주최한 안면인식 공급자 테스트에서 1위부터 4위까지 모두 중국 기업이 개발한 알고리즘이 차지했다. 그들이 이 분야에서 세계를 선도하는 이유는 간단하다. 실험대상이 14억이나 되기 때문이다.

99. 8%의 정확도

천라지망의 안면인식 정확도는 99.8%에 달한다. 운영 시작 후 2년 동안 이 시스템을 통해 체포된 범죄자만 2,000명을 넘었다. 하지만 여기서 주목해야 할 점은 사람의 얼굴뿐만 아니라 걸음걸이까지도 인식해서 개인을 식별한다는 것이다. 당신이 모자를 쓰거나 마스크를 착용해도 소용없다. 걸음걸이 하나만으로도 당신을 찾아낸다.

실제 사례들을 보면 그 위력이 어느 정도인지 알 수 있다. 17년 전 남자친구를 살해한 여성을 고속도로 요금소에 설치된 안면인식 시스템이 찾아냈다. 5만여 명이 모인 콘서트장에서 경제 범죄로 수배 중이던 남성이 카메라 얼굴인식 기술로 발견되어 체포되었다. 2000년 저장성에서 발생했던 시신 훼손 사건의 범인을 16년 만에 찾아낸 사례도 있다.

가장 극적인 사례는 안후이성의 한 사찰에서 일어났다. 주지스님의 얼굴이 강력범죄 용의자와 일치한다는 사실을 시스템이 발견한 것이다. 이름과 성을 바꾸고 10년 넘게 스님으로 살던 범인은 결국 체포되었다.

이런 사례들을 보면 중국의 감시 기술이 얼마나 정교하고 광범위한지 알 수 있다. 하지만 동시에 이런 기술이 일반 시민들의 사생활을 얼마나 심각하게 침해할 수 있는지도 보여준다.

매의 눈으로 완성된 감시망

2016년 중국은 공산당 중앙위원회의 승인을 받아 '매의 눈(Sharp Eyes)' 프로젝트를 시작했다. 중국 전역을 24시간 감시하고 통제할 수 있는 CCTV 감시 네트워크를 완성하겠다는 야심찬 계획이었다.

매의 눈 프로젝트는 단순히 더 많은 카메라를 설치하는 것에 그치지 않는다. 도로나 다중이용시설에 설치된 CCTV를 주민들의 TV, 휴대전화, 도어락 등과 연결해 실시간으로 상황을 파악할 수 있는 네트워크를 구축하는 것이다. 말 그대로 모든 국민이 서로를 감시하는 사회를 만드는 것과 같다.

상상해보라. 당신의 TV가, 당신의 휴대폰이, 심지어 당신 집 현관문까지도 정부의 감시 도구가 되는 세상을. 중국 전 국토가 거대한 감시망으로 덮여있다는 것은 바로 이런 의미다.

일상 감시

중국의 안면인식 기술은 이제 일상생활의 모든 영역에 스며들었다. 교통법규를 위반하면 위반자의 얼굴을 촬영하여 전광판에 공개한다. 횡단보도를 무단횡단하면 자동으로 단속된다. 지하철 요금을 결제할 때는 스마트폰 없이 손바닥이나 얼굴만으로도 가능하다.

심지어 베이징 톈탄 공원에서는 화장실 휴지 도둑질을 막기 위해 안면인식 기계를 도입했다. 얼굴을 인식해야만 일정량의 휴지를 제공받을 수 있다. 화장실에서까지 당신의 얼굴이 기록되는 것이다.

2019년 12월 1일부터는 휴대전화 신규 번호 등록 시 안면 스캔이 의무화되었다. 정부는 "사이버 공간에서 시민 권익 보호"를 명목으로 내세웠지만, 실제로는 정부 주도의 생체 정보 데이터베이스 구축이 목적이었다. 수집된 얼굴 정보는 전국 7억 대 이상의 CCTV와 연동된 감시 네트워크와 통합되어 실시간 신원 식별과 이동 경로 추적이 가능해졌다.

코로나19 사태는 감시 기술 확산의 절호의 기회가 되었다. 학교, 관공서, 아파트 단지 등에서 체온 측정과 함께 안면인식을 통한 출입 통제가 일상화되었다. 마스크를 착용한 상태에서도 식별이 가능한 기술이 개발되어 사용되고 있다.

신장 위구르

중국의 감시 시스템이 가장 극단적으로 운영되는 곳은 신장 위구르 자치구다. 이곳은 말 그대로 감시 기술의 실험실이 되었다. 이슬람 사원, 위구르 지역사회, 공항, 기차역, 버스 정류장 등 신장 전역의 670만 곳에 CCTV와 안면 스캔 시스템이 설치되었다.

휴먼라이츠워치에 따르면 신장 지구 인구의 10분의 1인 250만 명이 매일 중국 정보당국의 감시를 받고 있다. 12세부터 65세까지 주민의 DNA, 지문, 홍채 스캔, 혈액형 등 생체 정보가 강제로 수집되고 있다. 모든 사람을 잠재적인 범죄자로 취급하는 것과 다름없다.

위구르족을 감시하기 위해 사용되는 통합공동운영플랫폼(IJOP)은 그 자체가 인종차별의 도구다. 이 플랫폼은 신장에서 위구르인들을 추적하기 위해 DNA를 포함한 생체 데이터를 수집한다. 감시를 넘어서 특정 소수 민족 전체에 대한 체계적인 억압과 통제를 의미한다.

휴먼라이츠워치가 입수한 아커쑤 현의 위구르인 수감자 2,000명의 명단을 보면 경악을 금할 수 없다. 수감 사유가 허가 없는 코란 공부, 긴 수염, VPN 사용, 휴대전화의 반복적인 종료, 종교 행위 등이었다. 이러한 일상적인 행위들이 감시의 대상이 되어 사람들을 수용소에 가두는 근거가 되고 있다.

화웨이는 위구르족만을 타겟으로 한 감시 카메라 시스템을 개발했다고 알려져 논란이 되고 있다. 시스템이 위구르 소수민족임을 감지하면 자동으로 '위구르 알람'을 발동해 경찰에 통보한다는 것이다. 알리바바도 위구르족 식별이 가능한 안면인식 프로그램을 보유한 것으로 알려져 있다.

종교인을 대상 노크 작전

중국은 종교 신자들이 무신론과 마르크스주의에 근거한 공산주의 이데올로기를 따르도록 강요하고 있다. 공산당은 종교단체를 당의 권위에 맞설 가능성이 있는 잠재적 도전 세력으로 간주한다.

1860년 홍수전이 기독교 사상을 내세운 태평천국의 난으로 청 왕조가 무너질 뻔했던 기억이 여전히 생생하다. 시진핑 집권 이후 '종교의 중국화' 정책을 내세우며 통제를 강화하고, 종교조직이 당과 정부의 요구에 따를 것을 요구하고 있다.

중국 형법 300조에 따라 금지된 종교 단체에서 활동하는 것은 3년에서 7년의 징역형 대상인 범죄로 간주된다. 정부는 금지된 종교 단체 신자를 신고하는 자에게 10만 위안의 보상금을 제공하며 전 국민 고발 체제를 구축했다.

2017년 초부터 중국 전역에서 '노크 작전'이라는 광범위한 감시 활동이 시행되었다. 적당한 구실을 만들어 경찰을 보내 종교인들을 조사하고 사진을 찍어 관리하는 것으로, 전국적으로 종교인들을 추적하는 감시 시스템의 일환이다.

수집된 데이터는 국가안전보위부 전용 컴퓨터에 저장되며, 조사관들은 종교를 전파하는 자들에 대한 증거를 찾아 나선다. 증거가 확보되면 추가 조사가 진행되고, 조사 후에는 '매의 눈'과 '천라지망' 프로젝트를 통해 대상자를 끊임없이 감시한다.

사회신용시스템: 점수로 매겨지는 인간의 가치

중국 정부가 구축한 사회신용시스템은 '신뢰 보상, 불신 처벌' 메커니즘으로 작동한다. 중국에 사는 모든 사람의 행동을 관찰하고 점수를 매기는 시스템이다. 마치 학교에서 학생들의 행동을 평가하는 것처럼, 정부가 국민 한 사람 한 사람의 행동을 살펴보고 점수를 주는 것이다.

이는 지방자치단체나 철도청, 금융기관 등 각각의 기관별로 시스템을 구축하는 것이지 중앙정부가 법률로서 체계적으로 구축한 시스템은 아니다. 하지만 다양한 지방자치단체와 기관이 참여하고 있기 때문에 실질적으로는 중국 전역에서 이 제도가 일사불란하게 시행되는 것과 다름없다.

신용점수가 높은 사람들은 호텔에 투숙할 때 보증금을 지불할 필요가 없고, 다른 사람들보다 더 빨리 비자를 발급받을 수 있다. 반대로 신용점수가 낮은 사람들은 호텔 투숙, 기차 탑승, 여행의 자유 등에 다양한 제한과 제재를 받는다.

사회신용시스템은 여러 가지 방법으로 사람들의 행동을 관찰한다. CCTV 카메라들이 사람들의 행동을 24시간 지켜보고 있으며, 얼굴인식 기술을 사용해서 누가 어디서 무엇을 했는지 파악할 수 있다. 인터넷 사용 기록, 쇼핑 내역, 대출 상환 기록, 교통 위반 기록 등 일상생활의 모든 정보를 수집한다.

좋은 점수를 받으려면 세금을 제때 내고, 교통 규칙을 잘 지키고, 빌린 돈을 제때 갚아야 한다. 봉사 활동을 하거나 부모님을 잘 모시는 것도 좋은 점수를 받는 방법이다. 반대로 교통 신호를 위반하거나, 빌린 돈을 갚지 않거나, 거짓 정보를 퍼뜨리는 것은 나쁜 점수를 받는다. 특히 정부를 비판하거나 반대하는 행동을 하면 점수가 크게 떨어진다.

전 세계 확산

가장 걱정스러운 점은 중국의 감시 모델이 전 세계로 확산되고 있다는 것이다. 중국은 감시 기술을 다른 나라에 수출하고 있으며, 많은 개발도상국들이 이러한 기술을 도입하고 있다. 아프리카, 남미, 아시아의 여러 나라들이 중국의 감시 기술을 도입하여 자국민들을 감시하는 데 사용하고 있다.

화웨이, 하이크비전, 다후아 등 중국 기업들이 개발한 감시 기술이 전 세계 여러 나라에서 사용되고 있다. 중국식 감시 모델이 전 세계로 확산되고 있다는 것을 의미한다.

중국의 천라지망 시스템은 기술 발전이 인간의 자유와 행복을 보장하지 않는다는 것을 보여주는 대표적인 사례다. 사회의 안전과 질서를 높이겠다는 목적으로 만들어졌지만, 개인의 자유와 인권을 심각하게 침해할 수 있는 위험한 시스템이다. 기술의 발전이 인간의 삶을 더 좋게 만들어야 하는데, 오히려 사람들을 통제하고 억압하는 도구로 사용되고 있다.

4. 팔란티어

팔란티어(Palantir Technologies)라는 이름을 들어본 적이 있는가? 이 회사의 이름은 톨킨의 소설 『반지의 제왕』에 등장하는 마법의 구슬 '팔란티르'에서 따온 것이다. 소설 속에서 이 구슬은 멀리 떨어진 곳을 감시하고 관찰할 수 있는 능력을 가지고 있었다. 현실의 팔란티어도 다르지 않다.

2003년 페이팔의 창립자 피터 틸이 설립한 이 회사는 전 세계에서 가장 강력한 데이터 분석과 감시 시스템을 운영하고 있다. 그들의 고객은 미국 중앙정보국(CIA), 연방수사국(FBI), 국가안보국(NSA), 국방부 등 미국의 핵심 정보기관들이다. 최근에는 민간 기업들도 팔란티어의 서비스를 이용하기 시작했다.

세상의 모든 데이터를 삼키는 디지털 크라켄

팔란티어의 핵심 기술은 서로 다른 출처에서 나오는 방대한 양의 데이터를 통합하고 분석하는 것이다. 인공지능과 머신러닝 기술을 사용해서 수십억 개의 데이터 포인트에서 숨겨진 패턴과 연결고리를 찾아낸다. 위성 이미지, 휴대폰 통화 기록, 금융 거래 내역, 소셜미디어 게시물, 정부 데이터베이스 등 온갖 종류의 정보를 한꺼번에 분석할 수 있다.

더욱 무서운 것은 이 모든 것이 실시간으로 작동한다는 점이다. 새로운 정보가 들어오는 순간 분석이 시작되고, 기존 데이터와 비교해서 의미 있는 패턴이나 위험 신호를 찾아낸다. 마치 거대한 디지털 두뇌가 24시간 내내 세상을 감시하고 있는 것과 같다.

고담과 파운드리: 정부와 기업을 위한 전능한 눈

팔란티어는 주요 고객층에 따라 크게 두 가지 플랫폼을 운영하고 있다. 정부 기관용인 '고담(Gotham)'과 민간 기업용인 '파운드리(Foundry)'다.

고담은 팔란티어의 정부용 플랫폼으로, 군사 작전, 테러 방지, 정보 수집, 범죄 수사 등에 사용된다. 고담의 별명이 '디지털 체스판'인 이유는 복잡한 상황을 마치 체스판처럼 시각화해서 전략적 판단을 돕기 때문이다.

고담의 주요 기능들을 살펴보면 먼저 '신호 정보(Signal Intelligence)' 분석 기능이 있다. 전 세계에서 수집되는 전자 통신 정보들을 분석하는 기능으로, 휴대폰 통화, 인터넷 통신, 위성 통신 등 모든 종류의 전자 신호를 실시간으로 분석할 수 있다.

두 번째는 '인간 정보(Human Intelligence)' 통합 기능이다. 기밀 정보원들의 보고서, 인터뷰 기록, 현장 관찰 보고서 등을 입력하면 자동으로 다른 정보들과 연결해서 분석한다. 예를 들어, 어떤 정보원이 보고한 내용이 위성 이미지나 통신 감청 내용과 일치하는지 즉시 확인할 수 있다.

세 번째는 '지리공간 정보(Geospatial Intelligence)' 분석이다. 위성 이미지, 드론 영상, 지도 데이터 등을 실시간으로 분석해서 지상의 변화를 감지한다. 새로운 건물이 지어지거나, 군대가 이동하거나, 무기가 배치되는 것 같은 변화를 자동으로 발견할 수 있다.

네 번째는 '소셜미디어 정보(Open Source Intelligence)' 수집과 분석이다. 페이스북, 트위터, 인스타그램 등 소셜미디어에 올라오는 게시물들을 자동으로 수집하고 분석한다. 특정 지역의 정치적 분위기나 사회적 불안 정도를 실시간으로 파악할 수 있다.

파운드리는 민간용 플랫폼으로, 데이터 분석 기능은 고담과 비슷하지만 군사나 정보 수집보다는 기업 운영에 특화되어 있다. 시뮬레이션 엔진을 기반으로 해서 기업의 재무, 인사, 물류, 재고 등의 데이터를 통합 관리할 수 있다.

우크라이나 전쟁: 팔란티어의 실전 무대

2022년 2월 러시아가 우크라이나를 침공한 후, 팔란티어는 전쟁에서 중요한 역할을 하게 되었다. 전쟁 발발 3개월 만인 2022년 6월, 우크라이나의 젤렌스키 대통령은 팔란티어의 CEO 알렉스 카프를 만나 군사 지원을 요청했다. 젤렌스키가 전쟁 중에 만난 서방 기업의 첫 번째 CEO가 바로 카프였다는 점에서 팔란티어의 중요성을 알 수 있다.

팔란티어는 우크라이나에 자사의 소프트웨어를 무료로 제공하기로 결정했다. 이는 전략적인 판단이었다. 실제 전쟁 상황에서 기술을 테스트하고 개선할 수 있는 기회였기 때문이다. 기업 입장에서 러-우 전쟁은 실제 전쟁이 아니면 구하기 어려운 귀중한 데이터와 경험을 얻을 수 있는 기회였다.

팔란티어가 우크라이나에 제공한 주요 시스템은 'Metaconstellation'이라고 불리는 통합 분석 플랫폼이다. 이 시스템의 핵심 기능은 AI 기반의 위성 이미지, 오픈소스 데이터, 드론 영상, 정보 보고서 등을 실시간으로 분석해서 우크라이나 지휘관들에게 전투 상황을 파악하고 공격 목표를 결정할 수 있는 정보를 제공하는 것이다.

알렉스 카프 팔란티어 CEO는 로이터통신과의 인터뷰에서 "우크라이나군 공격의 대부분을 팔란티어 AI 시스템이 책임지고 있다"고 말했다. 이코노미스트는 "다윗(우크라이나)과 골리앗(러시아)의 싸움에서 다윗의 '돌팔매' 역할을 한 것이 팔란티어 AI 시스템"이라고 평가했다.

민간 감시의 검은 그림자

전장에서 적군을 찾아내고 추적하는 기술은 약간만 수정하면 정부가 시민들을 감시하고 통제하는 도구로 변할 수 있다. 팔란티어는 이미 여러 차례 민간인 감시와 관련된 논란에 휘말린 바 있다.

JP모건은 처음에는 직원들의 규정 위반 행위를 감시하기 위해 팔란티어를 도입했다. 하지만 시스템이 회사 중역들의 사생활까지 감시하는 데 사용되면서 논란이 되었고, 계약이 취소되었다.

팔란티어의 시스템은 사용자가 원하는 어떤 정보든 찾아낼 수 있는 능력을 가지고 있다. 이메일, 전화 통화, 금융 거래, 위치 정보, 소셜미디어 활동 등 개인의 모든 디지털 흔적을 추적하고 분석할 수 있다.

팔란티어는 미국 이민세관단속국(ICE)과 계약을 맺고 불법 이민자들을 추적하고 체포하는 데 도움을 주고 있다. 이 기술이 사회적 약자들을 탄압하는 데 사용될 수 있다는 것을 보여주는 사례다. 팔란티어 직원 200명 이상이 ICE 계약에 대한 우려를 표명하는 청원서에 서명했고, 과거 직원 13명이 공개적으로 회사의 방향을 비판하기도 했다.

디지털 감시 동맹의 확산

팔란티어는 미국을 비롯해 전 세계 40여 개국의 정부 기관들과 계약을 맺고 있다. 이들 국가의 정부들은 팔란티어의 기술을 테러 방지, 범죄 수사, 국경 관리, 사회 안전 등의 명목으로 도입하고 있다. 하지만 이런 시스템들이 일단 구축되면 그 사용 목적과 범위가 확대될 가능성이 높다.

민주주의 사회에서는 시민들이 정부를 감시하고 견제할 수 있었다. 언론의 자유, 집회의 자유, 표현의 자유 등을 통해 시민들이 정부의 잘못을 비판하고 개선을 요구할 수 있었다. 팔란티어와 같은 강력한 감시 기술이 정부의 손에 들어가면서 이 균형이 무너지고 있다. 정부는 모든 시민의 행동을 실시간으로 감시하고 분석할 수 있게 되는 반면, 시민들은 정부가 무엇을 하는지 알기 어려워진다. 감시하는 자와 감시당하는 자의 관계가 역전되는 것이다.

국제적 차원에서도 팔란티어의 확산은 우려스럽다. 미국이 팔란티어의 기술을 동맹국들에게 제공하면서 사실상 '디지털 감시 동맹'을 형성하고 있다. 이는 세계적 차원에서 감시 기술의 표준화가 진행되고 있다는 것을 의미한다.

기술과 권력의 위험한 결합

팔란티어는 기술과 권력의 결합이 얼마나 위험할 수 있는지를 보여준다. 이 회사의 창립자 피터 틸은 미국 공화당과 밀접한 관계를 맺고 있고, 도널드 트럼프를 지지했다. 팔란티어의 기술이 특정 정치 세력의 이익을 위해 사용될 가능성을 완전히 배제할 수 없는 상황이다.

팔란티어의 시가총액이 전통적인 방산업체들을 능가하는 수준에 도달했다. 2024년 12월 기준으로 팔란티어의 시가총액이 1,740억 달러를 기록하여 록히드마틴(1,216억 달러), 노스롭 그루먼(690억 달러) 등 방산업체들을 넘어섰다. 소프트웨어 기반의 감시 기술이 하드웨어 기반의 전통적인 방산업체보다 더 큰 가치를 인정받고 있다.

팔란티어의 사례는 중요한 경고를 보내고 있다. 기술은 중립적이지 않다. 그것을 누가, 어떤 목적으로, 어떤 방식으로 사용하느냐에 따라 인류를 해방시킬 수도 있고 억압할 수도 있다. 우리의 선택들이 미래 세대들이 살아갈 세상의 모습을 결정할 것이다.

5. 미국 NSC

2013년 에드워드 스노든이 폭로한 NSA 기밀문서는 세계를 충격에 빠뜨렸다. 미국 국가안보국(NSA)이 35개국 정상들의 휴대폰을 도청했다는 사실이 밝혀진 것이다. 메르켈 독일 총리의 경우 2002년부터 2013년까지 약 10년간 휴대폰이 감청당했다. 독일을 비롯한 유럽 동맹국들이 미국에 대한 불신을 표명하며 외교적 갈등이 심화되었다.

스노든의 폭로에 따르면 한국과 일본을 포함한 38개 우방국의 주미 대사관에 도청기를 설치하고 특별 안테나로 전파까지 탐지하는 전방위 스파이 활동을 벌였다. 브뤼셀의 유럽연합 본부마저 감시 대상으로 삼아 '자유의 수호자'를 자처하면서도 동맹국들을 적국처럼 감시했다.

구글, 페이스북, 애플, 마이크로소프트 등 글로벌 IT 기업들의 서버에 직접 접속하여 개인 메일, 사진, 통화 기록 등 모든 정보를 실시간으로 수집하는 '프리즘' 시스템을 운영했다. 중국 칭화대학교와 홍콩 통신기업까지 해킹하며 적국과 우방국을 가리지 않는 무차별적 정보전을 펼쳤다.

독일 법무장관이 "냉전시기 적국들의 행태를 연상시킨다"고 격분할 정도로 동맹국에 대한 배신적 감시 행위를 일삼았다. CIA는 독일 프랑크푸르트와 함부르크 영사관을 해킹 기지로 활용하며 우방국 영토에서 대놓고 사이버 스파이 활동을 벌였다.

스노든 퍽러 이후의 더욱 정교해진 감시

스노든의 폭로 이후 10여 년이 흘렀다. 그동안 인공지능 기술은 비약적으로 발전했다. 오바마 대통령의 사과 이후, 미국의 정보기관은 우방국 정상들의 휴대전화나 중요 통신망에 대한 도청과 감청을 정말 멈추었을까? 필자는 여전히 계속되고 있다고 생각한다.

과거 NSA의 감시가 방대한 통신 데이터를 수집하는 것에 중점을 두었다면, 이제 AI는 그 데이터를 실시간으로 분석하고 예측하는 단계로 진화했다. AI 알고리즘은 인간 분석가가 수년에 걸쳐 처리할 양의 데이터를 단 몇 분 만에 분석할 수 있다. 이메일, 소셜미디어 게시물, 통화 기록 등 방대한 정보 속에서 특정 개인의 정치적 성향, 비판적 의견, 연락망 등을 순식간에 파악하고 연관 관계를 매핑할 수 있다.

예측적 감시와 행동 분석도 가능해졌다. 과거 데이터를 학습하여 특정 개인이나 집단의 미래 행동을 예측하는 데 사용될 수 있다. 정치적 집회에 참석하거나 온라인상에서 특정 주제에 대해 반복적으로 의견을 표명하는 개인을 분류하고, 모든 온라인 활동과 통신을 집중적으로 감시할 수 있다.

안면인식과 행동인식 시스템도 발전했다. 전 세계적으로 확산된 CCTV, 드론, 위성 이미지 등은 AI의 눈과 결합하여 강력한 실시간 추적 시스템을 구축한다. AI는 특정 인물의 얼굴을 식별하는 것을 넘어, 마스크를 쓰거나 일부만 노출되어도 개인을 특정할 수 있는 수준으로 발전했다. 걸음걸이, 행동 패턴 등 생체 정보를 분석하여 군중 속에서도 특정인을 식별하고 동선을 추적하는 것이 가능해졌다.

파이브 아이즈: 국내법 제약을 우회하는 감시 동맹

미국, 영국, 캐나다, 호주, 뉴질랜드로 구성된 파이브 아이즈(Five Eyes) 정보 동맹은 첨단기술을 활용한 글로벌 감시 네트워크를 구축하고 있다. 각국의 정보기관들이 수집한 데이터를 공유하고 분석하여 전방위 감시 체계를 운영하고 있다.

이 동맹의 가장 교묘한 점은 각국의 법적 제약을 우회한다는 것이다. 미국 정부가 자국민을 직접 감시하는 것은 법적으로 제한이 있지만, 영국이나 다른 동맹국이 수집한 미국인의 정보를 받아보는 것은 상대적으로 자유롭다. 이는 각국의 개인정보 보호법과 감시 제한 규정을 무력화시키는 효과를 가져온다.

정보기관들은 페이스북, 트위터, 인스타그램 등 소셜미디어 플랫폼을 통해 개인 정보를 대량으로 수집하고 있다. 플랫폼들은 사용자들의 일상적인 활동, 인간관계, 정치적 성향, 소비 패턴 등에 대한 방대한 정보를 보유하고 있다. AI 기술은 이러한 정보들을 분석하여 개인의 성격, 정치적 성향, 행동 패턴 등을 예측할 수 있다. 특정 게시물에 '좋아요'를 누르는 패턴만으로도 그 사람의 정치적 성향을 90% 이상의 정확도로 예측할 수 있다는 연구 결과가 있다.

금융 감시와 위치 추적의 그물망

금융 기관들은 금융 거래 데이터를 모니터링하고 있다. 개인의 경제 활동, 소비 패턴, 인간관계 등을 파악할 수 있다. 누군가가 특정 지역에서 돈을 인출하거나 특정 상점에서 구매를 하면 그 사람의 위치와 활동을 추적할 수 있다. AI 기술은 모든 시민의 경제 활동을 감시하는 도구로 악용될 수 있다.

스마트폰, GPS 장치, 신용카드 등을 통해 수집되는 위치 정보는 개인의 이동 패턴을 상세히 파악할 수 있게 해준다. AI 기술은 위치 데이터를 분석하여 개인의 일상적인 활동 패턴, 만나는 사람들, 자주 가는 장소 등을 파악할 수 있다. 이러한 정보는 특정 개인의 행동을 예측하고 감시하는 데 사용될 수 있다. 평소와 다른 패턴으로 이동하는 사람을 '의심스러운 행동'으로 분류하여 추가 감시 대상으로 지정할 수 있다.

민주주의를 잠식하는 디지털 전체주의

AI 기반 감시 시스템들은 민주주의와 인권에 심각한 위협을 가하고 있다. 개인의 프라이버시, 표현의 자유, 집회의 자유, 정치적 참여 등 민주주의의 기본적인 권리들이 감시와 통제에 의해 제약받고 있다. 정치적 반대자들이나 사회 운동가들에 대한 감시가 강화되면서 건전한 정치적 논쟁과 사회적 비판이 억압받을 수 있다. 이는 민주주의의 기본 원칙인 견제와 균형을 훼손하는 결과를 가져올 수 있다.

우리는 지금 중대한 갈림길에 서 있다. 기술이 발전할수록 감시의 정교함과 범위는 확대되고 있다. 이제 우리가 선택해야 할 때다. 편리함과 안전이라는 이름으로 모든 것을 감시당하며 살 것인가, 아니면 불편함을 감수하고라도 자유와 인간의 존엄성을 지킬 것인가.

6. 디지털 독재의 위협

동의 없는 빅데이터 강탈

당신이 아침에 일어나 스마트폰을 확인하고, 지하철을 타고 출근하며, 카페에서 커피를 마시고, 온라인 쇼핑을 하는 모든 순간이 데이터가 된다. 그리고 그 데이터는 당신의 동의 없이 수집되고 분석되며 판단의 근거가 된다.

전 세계에서 운영되고 있는 AI 감시 시스템들의 가장 기본적인 문제는 사람들의 동의 따위는 묻지 않는다는 점이다. 이스라엘의 라벤더 시스템은 가자지구 주민 230만 명 대부분의 정보를 수집해서 분석했다. 중국의 경우에도 국민들이 원하든 원하지 않든 얼굴 정보를 강제로 수집한다.

개인정보 자기결정권은 민주주의 사회의 기본적인 권리다. 모든 사람은 자신의 정보를 누가, 언제, 어떤 목적으로 사용하는지를 알 권리가 있고, 그 사용에 대해 동의할지 거부할지를 결정할 권리가 있다. 하지만 AI 감시 시스템들은 이러한 권리를 완전히 무시하고 있다.

더욱 심각한 것은 수집되는 정보의 범위가 상상을 초월한다는 점이다. 단순히 얼굴 사진이나 이름뿐만 아니라 위치 정보, 통화 기록, 인터넷 검색 내역, 소셜미디어 활동, 심지어 걸음걸이나 행동 패턴까지 모든 것이 수집 대상이 된다. 당신의 일거수일투족이 모두 기록되고 분석되는 것이다.

블랙박스 알고리즘의 독재

이러한 시스템들이 어떻게 작동하는지 일반 사람들이 알 수 없다는 점이다. 라벤더의 알고리즘이 어떤 방식으로 훈련되고 학습되는지, 중국의 안면인식 시스템이 어떤 기준으로 사람을 판별하는지 명확히 알려지지 않았다. 사람의 생명을 좌우하는 중요한 결정을 내리는 시스템인데도 그 과정이 비밀에 가려져 있다.

알고리즘의 투명성은 민주주의 사회에서 매우 중요한 원칙이다. 특히 개인의 권리에 영향을 미치는 자동화된 결정에 대해서는 그 근거와 과정을 알 권리가 있다. 하지만 현재 AI 감시 시스템들은 '블랙박스' 상태로 운영되고 있어 누구도 그 내부 작동 원리를 확인할 수 없다.

이는 매우 위험한 일이다. 알고리즘이 편향되어 있거나 오류가 있어도 그것을 확인하고 수정할 방법이 없다. 잘못된 판단을 내려도 그 이유를 알 수 없고, 따라서 잘못을 바로잡을 수도 없다.

시스템들은 완벽하지도 않다. 라벤더 시스템의 10% 오차율은 무고한 민간인들이 잘못 식별될 위험을 의미한다. 중국의 안면인식 시스템이 99.8%의 정확도를 자랑한다고 해도, 1,000명 중 2명은 잘못 인식될 수 있다는 뜻이다. 14억 인구에 적용하면 수천만 명이 오인식의 피해를 볼 수 있다.

24시간 감시하는 전자 감옥

현대의 AI 감시 시스템이 만들어내는 세상을 상상해보라. 집을 나서는 순간부터 돌아올 때까지, 잠들어 있는 시간을 제외하고는 모든 순간이 기록되고 분석된다. 어디를 가는지, 누구를 만나는지, 무엇을 사는지, 심지어 어떤 표정을 짓는지까지 모든 것이 데이터가 된다.

중국의 감시 시스템은 국민들의 사회적 행동을 분석하고 정부에 대한 충성도까지 평가하는 사회신용제도와 연결되어 있다. 사람들이 자유롭게 행동하고 생각할 권리를 심각하게 제한한다.

이러한 전면적인 감시는 '냉각 효과(chilling effect)'를 만들어낸다. 항상 감시당하고 있다는 것을 알게 되면, 사람들은 자유롭게 의견을 표현하거나 정치적 활동에 참여하는 것을 자제하게 된다. 민주주의의 근간인 표현의 자유와 정치적 참여를 억압하는 결과를 낳는다.

위구르족의 경우를 보라. 허가 없는 코란 공부, 긴 수염, VPN 사용 등의 이유로 수감되었다. 종교의 자유, 표현의 자유, 사생활의 자유를 모두 침해하는 행위다. 일상적인 행위들이 범죄로 간주되는 사회에서는 누구도 안전할 수 없다.

기계가 내리는 생사의 판결

라벤더 시스템과 관련하여 이스라엘 정보요원의 증언은 오싹하다. "인간으로서 나는 승인 도장을 찍는 것 외에 아무런 역할을 하지 않았다." 생명과 관련된 가장 중요한 결정에서 인간의 판단이 사실상 배제된 것이다.

인간의 생명이 걸린 결정을 기계에게 맡기는 것은 매우 위험한 일이다. 아무리 발전된 AI라도 복잡한 상황의 맥락을 완전히 이해하거나 윤리적 판단을 내릴 수는 없다. 전쟁이나 치안 상황에서는 예상치 못한 변수들이 많이 발생하는데, 이러한 상황에서 기계적인 판단은 치명적인 결과를 낳을 수 있다.

자동화된 결정은 책임의 소재를 불분명하게 만든다. 잘못된 결정으로 무고한 사람이 피해를 입었을 때, 누가 그 책임을 져야 하는지 명확하지 않다. 개발자인지, 운영자인지, 명령을 내린 상급자인지 구분하기 어렵다.

팔레스타인 시인 모사브 아부 토하의 사례를 보라. 세 살 아이와 함께 피란길에 오른 그는 안면인식 AI의 오류로 수배자로 잘못 분류되어 이틀간 구금되고 고문을 당했다. 기계의 실수가 한 사람의 인생에 씻을 수 없는 상처를 남긴 것이다.

약자를 겨냥하는 디지털 사냥개

AI 감시 시스템들의 또 다른 문제는 특정 집단을 차별적으로 감시한다는 점이다. 중국의 감시 시스템은 위구르족, 카자흐족 등 소수 민족을 탄압하는 도구로 활용되고 있다. 이는 모든 사람을 평등하게 대해야 한다는 기본적인 인권 원칙을 위반하는 행위다.

AI 시스템은 학습 데이터의 편향을 그대로 반영한다. 훈련 데이터에 특정 인종이나 종교에 대한 편견이 포함되어 있다면, AI는 그 편견을 학습하고 재생산한다. 이는 사회의 기존 차별을 기술적으로 고착화하고 확대하는 결과를 낳는다.

소수민족이나 종교적 소수자들은 이미 사회적으로 취약한 위치에 있는데, AI 감시 시스템이 이들을 더욱 차별적으로 감시하고 통제함으로써 그들의 인권 상황을 더욱 악화시키고 있다.

화웨이의 '위구르 알람' 시스템이나 알리바바의 위구르족 식별 프로그램은 기술이 어떻게 인종차별의 도구가 될 수 있는지를 적나라하게 보여준다. 특정 민족이라는 이유만으로 자동으로 경보가 울리는 세상, 이것이 우리가 원하는 미래인가?

국제법을 짓밟는 디지털 무법자들

언론 매체들은 이스라엘의 AI 기반 공격을 "명백히 국제법을 무시한 인도주의에 반하는 행위"라고 강력하게 비판했다. 국제법은 모든 사람의 생명권, 사생활의 권리, 표현의 자유, 종교의 자유 등을 보장한다. 또한 국제 인도법은 전쟁 중에도 민간인과 군사 목표물을 구별해야 하고, 과도한 민간인 피해를 피해야 한다고 규정한다.

하지만 현재 운영되고 있는 AI 감시 시스템들은 이러한 국제법의 원칙을 정면으로 위반하고 있다. "아빠는 어디에?" 시스템이 가족이 모인 집을 의도적으로 타격하는 것, 중국이 위구르족 전체를 감시하고 억압하는 것, 미국이 동맹국들의 통신을 무차별적으로 감청하는 것은 모두 국제법 위반 행위다.

더욱 심각한 것은 이러한 위반 행위들이 '기술의 발전'이라는 이름으로 정당화되고 있다는 점이다. 새로운 기술이 등장할 때마다 기존의 법적, 윤리적 기준을 무시해도 된다는 식의 논리가 통용되고 있다.

인간 존엄성의 말살

AI 감시 시스템들의 근본적인 문제는 인간을 숫자와 데이터로 환원시킨다는 점이다. 라벤더 시스템은 사람을 1점부터 100점까지의 숫자로 평가한다. 중국의 사회신용시스템도 마찬가지로 개인의 모든 행동을 점수화한다.

인간은 태어나면서부터 동등한 존엄성을 가지고 있다. 어떤 기준으로도 평가되거나 계산될 수 없는 절대적인 가치다. AI 감시 시스템들은 이러한 인간의 존엄성을 부정하고, 사람을 효율성과 이익의 관점에서만 바라본다.

더 심각한 것은 이러한 점수 평가가 생사를 가르는 기준이 된다는 점이다. 라벤더 시스템에서 높은 점수를 받으면 죽고, 중국의 사회신용시스템에서 낮은 점수를 받으면 사회적으로 격리된다. 기계가 매긴 점수가 인간의 운명을 좌우하는 시대가 된 것이다.

민주주의의 종언을 고하는 경종

AI 감시 시스템의 확산은 민주주의의 핵심 가치들을 근본적으로 위협하고 있다. 표현의 자유, 집회의 자유, 종교의 자유, 사생활의 권리 등 민주주의 사회의 기초가 되는 권리들이 모두 위험에 처해 있다.