제7부 알고리즘 전쟁의 윤리와 법

31장 자율살상무기(LAWS) 논쟁: 방아쇠는 누가 당기는가?

고도 3만 피트, 속도 마하 1.2. 캐노피 밖은 칠흑 같은 어둠이고, 조종석 안에서는 레이더 경보 수신기(RWR)가 쉬지 않고 삐걱거립니다. 적의 지대공 미사일 레이더가 나를 물었습니다. 이 순간 내 손가락은 조종간 위의 빨간 버튼 위에 올라가 있습니다. 무기 발사 버튼입니다. 그 금속의 차가운 감촉. 심장이 미친 듯이 뜁니다.

이때 나는 묻습니다. 이 방아쇠를 당겨야 하는가?

표적이 맞는가? 민간인은 없는가? 아군은 안전한가? 수백 번의 훈련과 실전이 내 판단을 돕습니다. 그리고 결심합니다. 발사. 미사일이 레일을 박차고 날아갑니다. 그 결과가 어떻든 책임은내 것입니다. 그것이 전투기 조종사로서 20년간 지켜온 규칙이었습니다.

하지만 지금 그 규칙이 흔들리고 있습니다.

자율살상무기시스템, 영어로 LAWS(Lethal Autonomous Weapon Systems)라 불리는 기계들이 전장에 나타났습니다. 이 기계들은 인간의 명령 없이 스스로 표적을 찾고, 스스로 추적하고, 스스로 파괴합니다. 할리우드 영화에 나오는 터미네이터를 생각하실 수 있지만, 현실은 더조용하고 더 무섭습니다.

이스라엘의 하롭(Harop) 드론을 보십시오. 이 녀석은 하늘을 배회하다가 적의 레이더 신호를감지하면 스스로 돌진해서 자폭합니다. 터키의 카구-2(Kargu-2) 드론은 리비아 내전에서 후퇴하는 병사들을 인간의 통제 없이 자율적으로 추적해 공격했다는 보고가 있습니다. 이것은 2020년에 일어난 일입니다. 벌써 5년 전 이야기입니다.

2024년, 유엔 총회는 자율살상무기에 관한 결의안을 압도적인 표 차이로 채택했습니다. 166 개국이 찬성하고, 단 3개국만 반대했습니다. 벨라루스, 북한, 러시아. 이 결의안은 국제인도법이 자율무기의 전체 생애주기에 걸쳐 적용되어야 한다고 명시했습니다. 2025년 11월에는 156 개국이 다시 한번 자율무기 규제에 찬성했습니다. 국제 사회가 이 문제를 심각하게 받아들이고 있다는 증거입니다.

그런데 왜 이것이 문제일까요?

방아쇠를 당기는 것은 단순한 물리적 행위가 아닙니다. 그것은 도덕적 결정입니다. 중세 기사가 검을 휘두를 때, 그는 상대방의 눈을 보았습니다. 상대가 항복하면 검을 거두었습니다. 로마병사가 글라디우스를 겨눌 때도 마찬가지였습니다. 인간은 자비를 베풀 수 있습니다. 망설임이라는 것을 압니다.

기계는 그렇지 않습니다.

알파독파이트(AlphaDogfight)에서 AI가 인간 조종사를 5대 0으로 이겼을 때, 그 AI에게는 주저함이 없었습니다. 두려움도 없었고, 자비도 없었습니다. 오직 수학적 최적값만 있었습니다.

적을 파괴하는 가장 효율적인 경로. 만약 그 상대가 항복의 몸짓을 했다면? AI는 알아채지 못했을 겁니다. 코드에 "항복 제스처 인식"이라는 줄이 없다면 말입니다.

찬성론자들의 주장도 일리가 있습니다.

그들은 말합니다. "기계는 피곤하지 않습니다. 공포에 질리지 않습니다. 복수심에 불타지 않습니다." 이것은 사실입니다. 인간 군인들은 때때로 전쟁의 스트레스 속에서 끔찍한 실수를 저지릅니다. 민간인을 오인 사살하기도 하고, 감정에 휩쓸려 교전 수칙을 어기기도 합니다. 기계는입력된 규칙을 칼같이 지킬 수 있습니다. 이론적으로는요.

하지만 전쟁은 이론이 아닙니다. 전쟁은 혼돈입니다.

이라크 상공을 날 때를 생각해봅니다. 지상에 총을 든 남자가 있습니다. 그는 적군인가요? 아니면 가족을 지키려는 민간인인가요? 혹은 아군과 협력하는 현지 정보원인가요? 인간 조종사는맥락을 봅니다. 총구가 어디를 향하는지, 주변에 아이들이 있는지, 그의 행동이 공격적인지 방어적인지. AI는 픽셀과 패턴만 봅니다. 0과 1로 세상을 분류합니다.

더 큰 문제가 있습니다. 전쟁의 문턱이 낮아진다는 것입니다.

피를 흘리지 않는 전쟁은 정치인들에게 달콤한 유혹입니다. 관에 국기를 덮어 고향으로 보내는 일이 없다면, 전쟁을 결정하기가 훨씬 쉬워집니다. 부서진 고철만 돌아온다면, 언론의 비난도 줄어들 것입니다. 국가는 더 자주, 더 가볍게 무력을 사용하게 될 것입니다. 끝없는 알고리즘 분쟁의 시대가 열릴 수 있습니다.

현재 국제 사회는 팽팽하게 대립하고 있습니다.

한편에는 완전 금지를 주장하는 국가들이 있습니다. 세르비아, 키리바시 같은 나라들입니다. 그들은 말합니다. "인간의 통제 없는 살상 무기는 인간 존엄성에 대한 모독입니다." 다른 한편에는 미국, 러시아, 이스라엘처럼 이미 이 기술을 선도하는 국가들이 있습니다. 그들은 기존 국제법으로 충분하다고 주장합니다. "의미 있는 인간 통제"라는 표현조차 거부합니다.

2025년, 유엔 정부 전문가 그룹(GGE)은 "롤링 텍스트"라 불리는 문서를 만들었습니다. 이것은합의 가능한 규제 요소들을 모은 초안입니다. 여기에는 중요한 내용이 담겨 있습니다. 자율무기는 예측 가능하고, 추적 가능하고, 설명 가능해야 한다. 인간 감독자는 언제든 시스템을 중단시킬 수 있어야 한다. 민간인 밀집 지역에는 배치를 피해야 한다. 하지만 합의에 도달하려면 아직 갈 길이 멉니다.

묻습니다. 방아쇠를 당기는 자의 자격은 무엇인가?

조종사로서 나는 그 자격이 책임감이라고 믿습니다. 미사일을 발사하면, 그 결과에 대한 무게를 내가 짊어집니다. 잠 못 드는 밤, 악몽, 평생의 기억. 그것이 인간 전사의 십자가입니다. 기계는 그 무게를 모릅니다. 코드에 "죄책감"이라는 항목은 없습니다.

우리는 기계에게 효율을 빌릴 수 있습니다. 하지만 영혼까지 팔아서는 안 됩니다.