가. 마이너리티 리포트의 현실화

(1) LAPD 예측 치안 프로그램(Operation Laser)의 성과와 논란

2011년 어느 날, 로스앤젤레스 경찰청(LAPD) 뉴턴 관할구역의 한 경찰관이 순찰차 안에서 태블릿을 들여다보고 있었습니다. 화면에는 한 흑인 청년의 사진이 떠 있었습니다. 이름, 주소, 문신 위치, 소유 차량 번호판, 그리고 옆에 적힌 숫자. 15점. 이 청년은 '만성 범죄자(Chronic Offender)'로 분류되어 있었습니다. 경찰관의 임무는 이 사람을 찾아 접촉하는 것이었습니다. 무슨 죄를 저질렀는지는 중요하지 않았습니다. 알고리즘이 그를 위험인물로 지목했기 때문입니다.

이것이 오퍼레이션 레이저(Operation LASER)의 작동 방식이었습니다. LASER는 'Los Angeles Strategic Extraction and Restoration'의 약자입니다. 직역하면 '로스앤젤레스 전략적 추출 및 복원'이라는 뜻입니다. 프로그램을 설계한 사람들은 이 이름에 의학적 비유를 담았습니다. 연방 법무부 산하 사법지원국(Bureau of Justice Assistance)의 공식 문서에는 이렇게 적혀 있었습니다. "오퍼레이션 레이저는 레이저 수술에 비유할 수 있습니다. 훈련받은 의사가 현대 기술을 사용하여 종양을 제거하거나 시력을 개선하는 것처럼."

종양. 그들은 특정 시민들을 종양이라고 불렀습니다.

팔란티어의 고담 플랫폼이 이 프로그램의 두뇌 역할을 했습니다. 시스템은 체포 기록, 현장 면담 보고서, 번호판 자동인식기 데이터, 갱단 데이터베이스, 소셜 미디어 활동 등 수십 개의 데이터 소스를 통합했습니다. 그리고 각 개인에게 점수를 부여했습니다. 과거에 총기를 소지한 적이 있으면 5점. 보호관찰 중이면 1점. 경찰과 접촉할 때마다 1점씩 추가되었습니다. 점수가 일정 기준을 넘으면 '만성 범죄자 회보(Chronic Offender Bulletin)'에 이름이 올라갔습니다. 마치 현상수배 전단지처럼 사진과 개인정보가 순찰차에 배포되었습니다.

문제는 이 시스템의 작동 논리에 있었습니다. 경찰과 접촉할 때마다 점수가 올라간다면, 경찰이 자주 순찰하는 지역에 사는 사람은 자동으로 고위험군이 됩니다. 그리고 경찰은 어디를 자주 순찰했을까요? 과거에 범죄가 많이 신고된 지역이었습니다. 이것은 자기 충족적 예언의 고리를 만들어냈습니다. 가난한 흑인과 히스패닉 동네에 경찰이 더 자주 갔고, 그 지역 주민들이 더 자주 검문을 받았고, 그래서 더 높은 점수를 받았고, 그래서 더 자주 감시 대상이 되었습니다. 2019년 3월, LAPD 감찰관실(Inspector General)의 감사 결과가 발표되었습니다. 결과는 충격적이었습니다. 만성 범죄자로 분류된 233명 중 84퍼센트가 라틴계 또는 흑인이었습니다. 로스앤젤레스 전체 인구에서 이 두 집단이 차지하는 비율은 60퍼센트 미만이었습니다. 더 놀라운 사실도 있었습니다. 만성 범죄자 중 거의 절반이 폭력 범죄로 체포된 적이 한 번도 없거나 단 한 번뿐이었습니다. 그리고 약 20퍼센트, 다섯 명 중 한 명은 경찰과의 '의미 있는 접촉' 기록조차 전혀 없었습니다.

감사 보고서는 또 다른 문제점을 지적했습니다. 프로그램의 효과를 입증할 수 없다는 것이었습니다. LASER 구역으로 지정된 13개 지역 중 6개 지역에서는 오히려 폭력 범죄가 증가하거나 비LASER 구역과 차이가 없었습니다. 데이터 수집 방식도 일관성이 없었습니다. 어떤 경찰관은 성실하게 접촉 기록을 입력했고, 어떤 경찰관은 그렇지 않았습니다. 시스템의 정확성을 검증할 방법 자체가 없었습니다.

'LAPD 감시 중단 연합(Stop LAPD Spying Coalition)'의 공동 창립자 하미드 칸(Hamid Khan)은 수년간 이 프로그램에 맞서 싸웠습니다. 그의 조직은 정보공개 청구 소송을 통해 내부 문서를 확보했고, 지역사회 주민들과 함께 시위를 조직했습니다. 칸은 MIT 테크놀로지 리뷰와의 인터뷰에서 이렇게 말했습니다. "우리는 2016년에 공식적으로 캠페인을 시작했습니다. 목표는 프로그램을 이해하고, 지역사회에 정보를 알리고, 그것을 해체하는 것이었습니다."

2019년 4월, LAPD는 마침내 오퍼레이션 레이저를 공식 종료했습니다. 하지만 이야기는 여기서 끝나지 않았습니다.

(2) 알고리즘 편향성과 인종적 차별 문제

오퍼레이션 레이저가 폐지된 바로 그 달, LAPD는 새로운 프로그램을 발표했습니다. '데이터 기반 지역사회 중심 치안(Data-Informed Community-Focused Policing, DICFP)'이라는 이름이었습니다. 이름만 바뀌었을 뿐이었습니다.

2021년, LAPD 감시 중단 연합이 확보한 새로운 문서들이 공개되었습니다. 문서들은 LASER와 또 다른 예측 치안 프로그램인 프레드폴(PredPol)이 어떻게 기존의 인종적 편향을 자동화하고 강화했는지를 보여주었습니다. 프레드폴은 과거 범죄 데이터를 바탕으로 범죄가 발생할 확률이 높은 500피트 × 500피트 구역을 예측하는 장소 기반 시스템이었습니다. 지진 여진 예측 모델에서 착안한 알고리즘이었습니다.

텍사스 오스틴 대학의 사회학자 사라 브레인(Sarah Brayne)은 LAPD에 수개월간 임베디드 연구원으로 참여하여 예측 치안의 실제 작동 방식을 관찰했습니다. 그녀의 저서 《예측과 감시(Predict and Surveil)》에는 충격적인 장면들이 담겨 있습니다. 한 경사는 그녀에게 이렇게 설명했습니다. "사람을 세울 수 있는 사소한 위반 사항은 많습니다. 어제 이 사람은 무단횡단을 했다는 이유로 검문을 받았을 수도 있습니다." 브레인은 경찰이 응급실 앞에 설치된 자동 번호판 인식기를 어떻게 활용하는지도 목격했습니다. 총상을 입은 피해자의 가족이나 친구가 차로 환자를 데려다주고 급히 떠나는 경우가 많았습니다. 경찰은 그 번호판을 추적하여 피해자의 인맥 네트워크를 구축했습니다. 범죄 증거가 없어도 관계망에 들어간 사람은 감시 대상이 되었습니다.

미국 대학교 법학과 교수이자 《빅데이터 치안의 부상(The Rise of Big Data Policing)》의 저자 앤드루 퍼거슨(Andrew Ferguson)은 팔란티어 시스템의 본질을 이렇게 정의했습니다. "팔란티어는 데이터 기반 치안 시스템이라기보다 데이터 기반 감시 시스템입니다. 팔란티어는 경찰이 사람들을 안전하게 지키는 것이 아니라 사람들을 감시하는 것을 돕습니다."

비영리 탐사보도 매체 마크업(The Markup)은 2023년에 프레드폴(이후 지올리티카로 리브랜딩됨)의 실제 성과를 분석했습니다. 2018년 한 해 동안 23,000건 이상의 예측을 검토한 결과, 성공률은 0.5퍼센트 미만이었습니다. 예측된 범주의 범죄가 예측된 장소와 시간에 실제로 발생하고 경찰에 신고된 경우는 100건이 채 되지 않았습니다. 플레인필드 경찰청장은 마크업에 "지올리티카 소프트웨어에 지불한 비용은 다른 곳에 더 잘 쓸 수 있었을 것"이라고 말했습니다.

2020년 4월, LAPD는 코로나19로 인한 예산 제약을 이유로 프레드폴 계약을 종료했다고 발표했습니다. 하지만 비판가들은 이것이 진짜 이유가 아니라고 지적했습니다. 프로그램이 효과가 없고 차별적이라는 수년간의 증거가 축적된 결과였습니다. 팔로알토 경찰청은 이미 프레드폴을 3년간 사용한 후 "아무런 가치도 얻지 못했다"며 계약을 해지한 상태였습니다.

문제의 핵심은 알고리즘이 편향을 만들어내는 것이 아니라 기존의 편향을 증폭시킨다는 점입니다. LAPD 감시 중단 연합의 활동가 쉐이키어 라만(Shakeer Rahman)은 이렇게 설명했습니다. "데이터 기반 치안은 기존의 경찰 논리를 자동화합니다. 그것은 가난한 사람들을 표적으로 삼고, 노숙자들을 표적으로 삼고, 흑인과 갈색 인종과 장애인들을 표적으로 삼는 것을 포함합니다. 이제 이것은 그러한 관행들을 자동화하고, 해악을 자동화하고, 추방을 자동화하고, 경찰이 항상 담당해온 배제를 자동화하는 것을 돕고 있습니다."

2024년 2월, 시카고 시는 총성 탐지 및 예측 치안 시스템인 샷스파터(ShotSpotter)와의 계약 갱신을 거부했습니다. 브랜든 존슨 시장은 보도자료에서 "시카고 시는 현재 폭력 범죄 감소 추세를 가속화하는 데 효과적이라고 입증된 전략과 전술에 자원을 배치할 것"이라고 밝혔습니다. 예측 치안에 대한 회의론이 확산되고 있었습니다.

그러나 팔란티어는 여전히 번창하고 있었습니다. 코로나19 추적과 백신 안전성 분석 계약을 통해 국립보건원(NIH)과 식품의약국(FDA)에 진출했습니다. 2020년 9월 주식 상장 이후 주가는 세 배 이상 뛰었습니다. 로스앤젤레스에서의 실패는 회사의 성장에 아무런 영향을 미치지 않는 것처럼 보였습니다.

나. ICE와 추방 기계

(1) 이민세관단속국의 불법 체류자 추적 지원

2025년 4월 어느 날, 미국 이민세관단속국(ICE) 집행제거작전(Enforcement and Removal Operations) 부서의 한 요원이 새로운 시스템에 로그인했습니다. 화면에는 'ImmigrationOS'라는 이름이 떠 있었습니다. 팔란티어가 개발한 이 플랫폼은 요원에게 놀라운 능력을 제공했습니다. 클릭 몇 번으로 특정 인물의 여권 기록, 사회보장 파일, 국세청(IRS) 세금 데이터, 운전면허 정보, 심지어 번호판 자동인식기 데이터까지 한눈에 볼 수 있었습니다. 시스템은 "거의 실시간으로" 자발적 출국자를 추적하고, 비자 체류 초과자를 식별하며, MS-13이나 트렌 데 아라과(Tren de Aragua) 같은 초국가적 범죄조직 관련자를 표적으로 지정할 수 있었습니다.

이것이 트럼프 2기 행정부의 추방 기계였습니다.

팔란티어와 ICE의 관계는 2014년으로 거슬러 올라갑니다. 당시 팔란티어는 ICE 산하 국토안보수사국(Homeland Security Investigations, HSI)을 위해 팔콘(Falcon)이라는 도구를 구축했습니다. 팔콘은 요원들이 특정 개인의 시간별 위치를 휴대전화 번호로 추적하고, 항공 여행 기록을 분석하며, 현장 면담 정보를 실시간으로 공유할 수 있게 해주었습니다. 오바마 행정부 시절에 서명된 이 계약은 바이든 행정부까지 이어졌습니다.

그러나 2025년의 ImmigrationOS는 차원이 달랐습니다. 2025년 4월 중순, ICE는 팔란티어에 3천만 달러 규모의 계약을 체결했습니다. 연방 계약 기록에 따르면, 프로토타입은 2025년 9월 25일까지 납품될 예정이었습니다. 계약 정당화 문서에서 ICE는 "긴급하고 절박한 필요"가 있다고 밝혔습니다. 그리고 팔란티어가 "유일한 공급원"이라고 선언했습니다.

"팔란티어는 ICE 운영에 대한 깊은 제도적 지식을 보유하고 있습니다." 문서에는 이렇게 적혀 있었습니다. "이 회사는 이미 여러 연방 기관의 데이터를 수집하고 처리하고 있어, 6개월 이내에 프로토타입을 개발할 수 있는 독보적인 위치에 있습니다." 지연이 발생하면 트럼프 대통령의 행정명령에 명시된 집행 임무가 훼손될 것이라고 경고했습니다.

ImmigrationOS는 세 가지 핵심 기능을 제공하도록 설계되었습니다. 첫째, 표적 선정 및 집행 우선순위화. 이 기능은 "폭력 범죄자", 갱단 조직원, 비자 체류 초과자 등 누구를 먼저 추방할지 결정하는 것을 돕습니다. 어떤 데이터나 기준으로 "폭력 범죄자"를 식별하는지는 공개되지 않았습니다. 둘째, 자발적 출국 추적. 개인이 미국을 자발적으로 떠나는지 모니터링합니다. 셋째, 이민 생애주기 관리. 식별에서 추방까지 전체 과정을 간소화하여 시간과 자원 낭비를 최소화합니다.

2025년 9월, ICE는 추가로 2,990만 달러 규모의 계약을 체결했습니다. 소프트웨어 라이선스 갱신, 운영 및 유지보수, 적응형 유지보수 지원을 위한 것이었습니다. 계약은 2027년 9월까지 유효했습니다. 뉴욕타임스가 입수한 공공 기록에 따르면, 트럼프 취임 이후 팔란티어가 받은 연방 계약 총액은 9억 달러를 넘어섰습니다. 2024년 5억 4,120만 달러에서 거의 두 배로 증가한 수치였습니다.

시스템의 위력은 데이터 통합 능력에 있었습니다. ImmigrationOS는 정부 데이터베이스뿐만 아니라 민간 부문의 정보도 끌어모았습니다. 신용 정보, 공과금 기록, 차량등록청 데이터, 항공사 승객 정보가 모두 연결되었습니다. 이민정책연구소(Migration Policy Institute)의 분석에 따르면, ICE는 상업적 신용, 유틸리티, 자동차 등록 정보의 최대 정부 구매자 중 하나로 여겨집니다.

2025년 4월, 팔란티어의 최고기술책임자(CTO)이자 팔란티어 USG 사장인 아카시 자인(Akash Jain)이 내부 슬랙 메시지에 이렇게 썼습니다. "ICE와의 작업에 대해 간단히 업데이트 드립니다." 유출된 이 메시지에 따르면, 회사는 "새 행정부가 집행 작전을 추진하기 위해 데이터를 활용하는 데 초점을 맞춘 것"에 대응하여 "ICE와 새로운 데이터 통합 및 워크플로우 세트"를 개발했습니다.

CNN의 보도에 따르면, ImmigrationOS는 인공지능 시스템을 사용하여 이민 요원들이 "급습 승인, 체포 예약, 법적 문서 생성, 추방 비행기나 구금 시설로의 이송 경로 지정을 단일 인터페이스에서" 처리할 수 있게 해줄 것이었습니다.

(2) 내부 직원들의 윤리적 반발과 퇴사 러시

2025년 5월, 13명의 전직 팔란티어 직원들이 공개 서한을 발표했습니다. 제목은 "샤이어의 파괴(The Scouring of the Shire)"였습니다. 《반지의 제왕》에서 사우론이 패배한 후에도 호빗들의 고향이 파괴되는 장면을 가리키는 제목이었습니다. 회사의 이름이 톨킨의 세계에서 유래했다는 점을 생각하면, 이보다 날카로운 비판은 없었습니다.

"기업들이 트럼프 행정부에 아첨하고, 반대 의견을 억압하며, 그의 외국인 혐오적, 성차별적, 과두적 의제에 동조하고 있습니다." 서한에는 이렇게 적혀 있었습니다. 그들은 회사의 윤리적 가드레일, 원래 차별, 허위정보, 권력 남용을 방지하기 위해 설계된 것들이 해체되고 있다고 경고했습니다.

이러한 반발은 새로운 것이 아니었습니다. 알렉스 카프 CEO는 2024년 3월 CNBC와의 인터뷰에서 솔직하게 인정했습니다. "우리는 직원들을 잃었습니다. 앞으로도 잃을 것입니다." 그는 이어서 말했습니다. "당신이 가진 입장이 직원을 잃는 대가를 치르지 않는다면, 그것은 입장이 아닙니다."

브리아나 캐서린 마틴(Brianna Katherine Martin)은 윤리적 우려로 회사를 떠난 직원 중 한 명이었습니다. 그녀는 ImmigrationOS와 같은 프로젝트가 "인권과 헌법적 침해에 공모하는 것" 이라고 말했습니다.

인권 단체들의 비판은 더욱 거셌습니다. NYU 스턴 비즈니스 및 인권센터의 정책 고문 마리아나 올라이솔라 로젠블랫(Mariana Olaizola Rosenblat)은 액시오스와의 인터뷰에서 이렇게 말했습니다. "트럼프 행정부의 추방 기구를 지원함으로써, 팔란티어는 그러한 인권 및 헌법적 침해에 공모하고 있습니다."

미국이민위원회(American Immigration Council)는 시스템의 근본적인 문제점을 지적했습니다. ImmigrationOS는 정부 데이터베이스의 정보를 그 정확성이나 신뢰성과 관계없이 끌어모읍니다. 오래되거나 잘못된 정보가 삶을 바꾸는 결과로 이어질 수 있습니다. 구금, 신분 상실, 또는 부당한 추방.

가장 불편한 사실 중 하나는 이해충돌 문제였습니다. 스티븐 밀러(Stephen Miller), 트럼프 행정부의 이민 정책 수석 설계자는 팔란티어에 상당한 금융적 지분을 보유하고 있었습니다. 정부의 이민 정책을 설계하는 사람이 그 정책을 집행하는 기술을 제공하는 회사의 주주인 상황. 이것이 우연의 일치일까요, 아니면 설계된 결과일까요?

2025년 12월, 워싱턴포스트는 팔란티어가 어떻게 방향을 전환했는지를 보도했습니다. 기사의 리드는 이랬습니다. "수년간 알렉스 카프는 데이터 관리 회사가 '진보적 가치를 지원하는 데 관여하고 있다'고 선언하며, 소수자를 표적으로 삼거나 비윤리적이라고 판단되는 계약에서 '반복적으로 물러났다'고 말했습니다."

하지만 이제 그 회사는 미국 역사상 가장 공격적인 대규모 추방 캠페인의 기술적 중추가 되어 있었습니다. 팔란티어 측은 자신들이 단지 도구를 제공할 뿐이라고 주장합니다. 누구를 표적으로 삼고, 추방하고, 감시할지 결정하는 것은 회사가 아니라는 것입니다.

그러나 비판가들은 반박합니다. 설계 선택이 현실 세계의 결과를 형성합니다. AI 아키텍처가 곧 정책이 됩니다. 알고리즘이 특정 집단을 더 높은 위험으로 분류하면, 그것은 기술적 결정이 아니라 정치적 결정입니다.

국제앰네스티의 앰네스티 테크 프로그램 부국장 리키타 바네르지(Likhita Banerji)는 엘파이스 신문에 이렇게 말했습니다. "이러한 기술들은 인종차별, 차별, 억압을 체계적으로 조장할 수 있으며, 인종차별적이고 외국인 혐오적인 의제를 추진하는 데 일상적으로 사용됩니다."

다. 라벤더(Lavender)와 가자 지구

(1) 이스라엘-하마스 전쟁에서의 공식 지지 선언

2024년 1월의 어느 날, 텔아비브의 한 회의실에서 이례적인 모임이 열렸습니다. 팔란티어 이사회가 처음으로 미국 밖에서, 그것도 이스라엘에서 회의를 개최한 것입니다. 피터 틸과 알렉스 카프가 이스라엘 국방부 관계자들과 나란히 앉아 사진을 찍었습니다. 아이언돔 미사일 방어 시스템 개발을 이끈 것으로 유명한 국방연구개발국(DDR&D) 국장 대니 골드(Danny Gold)도 자리에 있었습니다.

그 사진은 이스라엘 언론에는 실리지 않았습니다. 하지만 블룸버그가 보도했습니다. 이스라엘이 팔란티어로부터 AIP라는 AI 기반 시스템을 구매하기로 합의했다는 소식이었습니다. 이 시스템은 정보를 바탕으로 의사결정을 지원하고, 적의 표적을 분석하며, 전투 행동을 제안할 수 있었습니다. 계약 규모는 수천만 달러에 달할 것으로 예상되었습니다.

알렉스 카프는 자신의 입장을 숨기지 않았습니다. 2024년 2월 실적 발표 컨퍼런스콜에서 그는 이렇게 말했습니다. "저는 10월 7일 이후 몇 주 만에 우리가 현장에 있고 이스라엘에서 작전상 중요한 활동에 관여하고 있다는 것을 대단히 자랑스럽게 생각합니다."

카프는 텔아비브 대학에서 전설적인 이스라엘 기업가 요시 바르디(Yossi Vardi)와 대화하면서 더 솔직해졌습니다. "이스라엘에 대해 의견이 없는 사람은 없습니다, 대기업이라면요. 저만큼 친이스라엘적이지 않은 사람들도 많지만, 그들은 이스라엘을 아주 특별한 곳으로 생각하고 이스라엘의 입장을 더 이해하며 사막에서 국가를 건설한 이스라엘의 업적을 높이 평가합니다."

회사는 뉴욕타임스에 전면 광고를 냈습니다. "팔란티어는 이스라엘과 함께합니다."

팔란티어와 이스라엘 군부의 관계는 훨씬 전에 시작되었습니다. 2015년, 회사는 텔아비브의 로스차일드 대로와 예후다 할레비 거리가 내려다보이는 곳에 사무실을 열었습니다. 이것은 이스라엘 테크 생태계에 깊이 통합되려는 전략적 움직임이었습니다. 카프 자신이 2023년 12월 폭스비즈니스와의 인터뷰에서 인정했습니다. "우리는 이스라엘에서 아주 잘 알려져 있습니다. 이스라엘은 우리 제품을 높이 평가합니다."

그러나 2024년 1월의 합의, 블룸버그가 "전투 기술을 위한 전략적 파트너십"이라고 명명한 이 계약의 타이밍은 질문을 불러일으켰습니다. 이 합의는 가자 지구에서의 대학살이 이미 석 달째 진행되고 있는 시점에 체결되었습니다. 비즈니스 및 인권 자원센터는 이렇게 물었습니다. "팔란티어가 격화된 분쟁을 자사의 AI 모델을 민간인을 대상으로 테스트할 기회로 활용한 것은 계산된 움직임이었을까요? 가자를 기술의 끔찍한 실험장으로 만든 것일까요?"

(2) AI 표적 식별 시스템과 "알고리즘에 의한 전쟁 범죄" 논쟁

2024년 4월, 이스라엘-팔레스타인 전문 매체 +972 매거진과 히브리어 매체 로컬콜이 충격적인 탐사보도를 발표했습니다. 기사의 제목은 "'라벤더': 가자에서 이스라엘의 폭격 광풍을 지휘하는 AI 기계"였습니다. 이스라엘 군 정보 장교 6명이 익명을 조건으로 증언했습니다.

라벤더(Lavender)는 하마스와 팔레스타인 이슬람 지하드(PIJ)의 군사 조직원으로 의심되는 모든 사람을, 하급 요원까지 포함하여, 잠재적 폭격 대상으로 표시하도록 설계된 AI 기반 데이터베이스였습니다. 시스템은 가자 지구의 거의 모든 사람을 분석하고 1부터 100까지의 점수를 부여했습니다. 그 점수가 그 사람이 무장 단체에 적극적으로 관련되어 있을 가능성을 나타냈습니다.

소식통들에 따르면, 전쟁 초기 몇 주 동안 이스라엘군은 거의 전적으로 라벤더에 의존했습니다. 시스템은 37,000명의 팔레스타인인을 의심되는 전투원으로, 그리고 그들의 집을 잠재적 공습 대상으로 표시했습니다.

더 충격적인 것은 인간의 검토 과정이었습니다. 증언한 정보 장교들은 라벤더가 생성한 표적을 승인하는 데 평균 20초를 사용했다고 말했습니다. 많은 경우, 확인 작업은 대상이 남성인지 확인하는 것에 그쳤습니다. 여성은 전투원이 아니라는 가정 하에.

시스템에는 약 10퍼센트의 오류율이 있다는 것을 모두 알고 있었습니다. 하지만 그것은 용인할 수 있는 수준으로 간주되었습니다. 한 소식통은 +972에 이렇게 말했습니다. "우리는 하마스 요원들이 군사 건물에 있거나 군사 활동에 참여할 때만 죽이는 데 관심이 없었습니다. 반대로, IDF는 주저 없이 그들을 집에서 폭격했습니다, 첫 번째 옵션으로요. 가족의 집을 폭격하는 것이 훨씬 쉽습니다. 시스템은 그런 상황에서 그들을 찾도록 설계되어 있습니다."

라벤더와 연동된 또 다른 시스템이 있었습니다. "아빠 어디 있어?(Where's Daddy?)"라는 이름이었습니다. 이 시스템은 라벤더가 표시한 사람들이 집에 들어갈 때까지 추적했습니다. 의도적으로 밤에, 가족들이 함께 있을 때를 노렸습니다.

민간인 피해 허용 기준도 공개되었습니다. 하급 하마스 요원 한 명을 죽이기 위해 15명에서 20명의 민간인 사망이 허용되었습니다. 고위 지휘관의 경우, 그 숫자는 100명에서 300명까지 올라갔습니다.

한 소식통은 이렇게 증언했습니다. "표적은 끝이 없습니다." 일단 폭격이 시작되면, 지휘관은 "또 다른 36,000명이 대기하고 있다"고 알고 있었습니다.

2025년 5월, 이스라엘군 기밀 데이터베이스에 기록된 증거가 공개되었습니다. 가자에서 사망한 53,000명의 팔레스타인인 중 단 17퍼센트만이 전투원이었습니다. 이것은 83퍼센트가 민간인이었다는 것을 의미합니다. 유엔은 2024년 말 사망자의 약 70퍼센트가 여성과 어린이라고 검증했습니다.

유엔 사무총장 안토니우 구테흐스(António Guterres)는 "깊이 우려한다"고 말했습니다. 이스라엘이 군사 작전에서 인공지능을 사용하는 것이 민간인을 위험에 빠뜨리고 책임 소재를 흐리게 한다고 지적했습니다.

유엔 인권 및 대테러 특별보고관 벤 사울(Ben Saul)은 더 직접적이었습니다. "이스라엘의 AI 사용에 관한 보도가 사실이라면, 가자에서의 많은 이스라엘 공습은 불균형적인 공격을 가하는 전쟁 범죄에 해당할 것입니다."

하마드 빈 칼리파 대학의 마크 오웬 존스(Marc Owen Jones) 교수는 라벤더 시스템에 대해 이렇게 말했습니다. "분명히 해야 합니다. 이것은 AI 지원 대학살이며, 앞으로 전쟁에서의 AI 사용에 대한 모라토리엄 요청이 있어야 합니다."

팔란티어가 라벤더의 개발자인지는 확인되지 않았습니다. 이스라엘군의 정보 부대 8200이 개발한 것으로 알려져 있습니다. 하지만 2024년 1월 전략적 파트너십의 타이밍, 그리고 팔란티어의 기술 역량이 유사한 시스템에 적용될 수 있다는 점은 의문을 불러일으킵니다. 확실한 것은 팔란티어가 이 전쟁을 적극적으로 지원하고 있다는 것입니다. 비즈니스 및 인권 자원센터에 제출한 성명에서 팔란티어는 이스라엘군에 "확장된, 중요한 표적 식별 역량" 을 제공한다고 인정했습니다. 그 역량이 가자에서, 그리고 아마도 그 너머에서 파괴적인 공습을 수행하는 데 사용되었을 가능성이 높습니다.

카프는 2024년 5월 캠브리지 대학 토론회에서 질문을 받고 동요하는 모습을 보였습니다. 라벤더에 대한 질문이었습니다. 투자자 캐서린 오스틴 피츠(Catherine Austin Fitts)는 이렇게 관찰했습니다. "피터 틸은 법적으로는 보호받을 수 있을지 몰라도, 여론의 법정에서는 청산이 올 수 있다는 것을 깨닫기 시작한 것 같습니다."

그러나 틸의 입장은 흔들리지 않았습니다. "나는 대체로 IDF가 자신이 원하는 것을 결정할 수 있고, 그들이 대체로 옳다고 믿습니다."

팔란티어 본사 앞에서, 워싱턴 D.C.의 힐 앤 밸리 포럼에서, 전 세계 대학 캠퍼스에서 시위가 이어지고 있습니다. 팔레스타인계 미국인 수메르 모바라크(Sumer Mobarak)는 카프의 연설 중에 무대로 뛰어들어 외쳤습니다. "당신은 팔레스타인 사람들을 죽여서 부자가 되고 있습니다. 팔란티어는 그들의 AI와 기술로 팔레스타인 사람들을 죽입니다. 당신은 팔레스타인에 있는 내 가족을 죽이고 있습니다." 카프의 대답은 이랬습니다. "팔레스타인에서의 주요 사망 원인은 하마스가 수백만 명의 '유용한 바보들'이 있다는 것을 깨달았다는 사실입니다."

이 장면의 영상은 수백만 번 조회되었습니다. 하지만 팔란티어의 주가는 계속 올랐습니다. 시가총액은 2,000억 달러를 넘어섰습니다. 알고리즘에 의한 전쟁 범죄 논쟁 속에서도, 투자자들은 돈을 벌고 있었습니다.

누가 알고리즘을 감시하는가. 그것이 이 시대가 던지는 질문입니다.