10장 켄달 장관의 탑승: AI 파일럿에 무기 발사를 맡기다

조종석에 앉는 순간, 모든 논쟁이 갑자기 조용해집니다. 회의실에서 자율성이 어쩌고 윤리가 어쩌고 떠드는 것은 쉬운 일입니다. 캐노피를 닫고 활주로로 굴러 나가면, 그 말들은 전부 무게를 다시 얻습니다. 왜냐하면 이제 개념이 아니라 중력이 대답하기 때문입니다.

2024년 5월 2일, 70대의 노신사가 캘리포니아 에드워즈 공군기지의 뜨거운 활주로에 섰습니다.

미 공군성 장관 프랭크 켄달이었습니다. 그는 단순한 행정가가 아니었습니다. 냉전 시절 육군장교로 복무했고, 평생을 국방 기술 엔지니어이자 획득 전문가로 살아온 기술 관료였습니다. 그가 이곳을 찾은 이유는 단순히 시찰을 하기 위함이 아니었습니다. 그는 자신이 추진하는 AI 무인 전투기 프로그램의 운명을 결정짓기 위해, 직접 목숨을 걸고 AI가 조종하는 전투기에 오르기로 결심했습니다.

그가 탑승한 기체는 앞서 수많은 테스트를 거친 X-62A VISTA였습니다. 앞좌석에는 켄달 장관이, 뒷좌석에는 만일의 사태에 대비한 안전 조종사가 탑승했습니다. 이 비행을 위해 쉴드AI는강화학습 기반 인공지능을 항공기에 탑재했습니다. 쉴드AI는 2021년 헤론 시스템즈를 인수한회사였습니다. 바로 그 헤론 시스템즈, 2020년 알파독파이트에서 인간 조종사를 5대 0으로꺾은 그 AI의 창조자 말입니다. 탑재된 자율 에이전트는 그때 우승한 AI의 직계 후손이었습니다.

캐노피가 닫히고 엔진이 굉음을 내며 점화되었습니다. 이륙 직후, 켄달 장관은 역사적인 순간을 맞이했습니다. 조종 권한을 AI에게 넘긴 것입니다. "나는 조종간에 버튼이 있었고 기본적으로 자동화를 시작했습니다"라고 그는 나중에 설명했습니다.

에드워즈 공군기지 상공의 훈련 구역에 진입하자, 가상의 적기 역할을 맡은 유인 F-16 전투기가 접근해 왔습니다. 켄달 장관이 탄 X-62A는 즉시 전투 모드에 돌입했습니다.

전투가 시작되었지만, 켄달 장관과 뒷좌석의 안전 조종사 모두 조종간과 스로틀에 손을 대지않았습니다.

기체는 스스로 맹렬하게 선회하며 적기의 꼬리를 잡기 위해 기동했습니다. AI는 켄달 장관을태운 채 최대 5G에 달하는 고기동을 펼쳤습니다. 몸무게가 5배로 늘어나는 압력입니다. 70대

노인의 몸에는 결코 만만치 않은 부담이었습니다. 그 압력 속에서도 AI는 냉철하게 적기의 예상 경로를 계산하고, 유리한 위치를 선점하기 위해 끊임없이 기체를 비틀었습니다.

시속 885킬로미터 이상의 번개 같은 기동이 이어졌습니다.

두 항공기가 약 300미터 이내로 경주하면서 서로 거의 정면으로 마주쳤고, 상대를 취약한 위치로 몰아넣기 위해 비틀고 회전했습니다. 하늘에서의 근접은 인간 관계의 근접이 아닙니다. 300미터 안쪽에서 두 기체가 서로의 실수를 기다리며 코를 맞대고 돌아나가는 것은, 작은 오류가 곧 사망으로 직결되는 거리입니다.

이런 상황에서 탑승자가 느끼는 감각은 화려함이 아니라 압박입니다. 장비가 아니라 몸이 먼저 "이건 진짜다"라고 말합니다.

AI는 적기의 사격 통제 레이더가 자신을 조준하려 할 때마다 교묘하게 회피 기동을 하며 역공의 기회를 노렸습니다. 인간 파일럿이 조종하는 F-16은 맹렬하게 공격해왔지만, X-62A의 AI는빈틈을 내주지 않았습니다. 오히려 AI는 인간 조종사가 예측하기 힘든 타이밍에 반격하며 우위를 점했습니다.

약 1시간의 격렬한 비행을 마치고 기지로 귀환한 켄달 장관의 표정은 상기되어 있었습니다. 그는 조종석에서 내려오며 미소를 지었습니다. 비행 직후 열린 기자회견에서 그는 전 세계가 주목하는 발언을 남겼습니다.

"비행 중 본 것이 충분해서, 전쟁에서 무기 발사 여부를 결정하는 능력을 아직 학습 중인 이 AI에게 맡길 수 있다고 믿습니다.”

이 발언은 즉각 논란을 불러일으켰습니다.

무기통제 전문가들과 인도주의 단체들은 AI가 언젠가 추가적인 인간의 상의 없이 사람을 죽이는 폭탄을 자율적으로 투하할 수 있게 되는 것에 대해 깊이 우려하고 있었습니다. 국제적십자위원회는 "생사를 결정하는 일을 센서와 소프트웨어에 맡기는 것에 대한 광범위하고 심각한우려가 있습니다"라고 경고했습니다.

그러나 켄달은 무기가 사용될 때 시스템에는 항상 인간의 감독이 있을 것이라고 강조했습니다. "그것을 갖지 않는 것이 안보 위험입니다. 이 시점에서 우리는 그것을 가져야만 합니다.”

조종사 관점에서 무기 발사는 버튼 하나가 아닙니다. 무기 발사는 전술, 식별, 교전규칙, 아군위치, 탄종의 후폭풍까지 포함한 연쇄 책임입니다. 공중전에서 발사 결정은 종종 1초 안에 내려야 하지만, 그 1초 안에 들어가는 판단 재료는 생각보다 지저분합니다. 센서는 속을 수 있고, 표적은 기만할 수 있고, 데이터링크는 끊길 수 있고, 인간은 오판할 수 있습니다. AI는 오판하지않는 게 아니라, 오판의 형태가 다릅니다. 인간은 피로와 공포로 흔들리지만, AI는 학습 분포바깥에서 이상한 확신을 보일 수 있습니다. 그래서 무기 발사를 AI에게 맡긴다는 말은, AI가 더똑똑하냐가 아니라, 우리가 그 오판 형태를 어떤 안전장치로 봉인할 수 있느냐의 문제입니다.

켄달의 탑승 시연은 미 의회와 국방 예산 담당자들에게 보내는 강력한 메시지이기도 했습니다.

미 공군은 대당 수천억 원에 달하는 F-35나 차세대 전투기만으로는 중국의 물량 공세를 감당할 수 없다고 판단했습니다. 이에 대한 해법이 바로 유인 전투기 1대와 AI 무인 전투기 3~5대가 편대를 이루는 유무인 복합 체계입니다. 미 공군은 2028년까지 최소 1,000대 이상의 AI 무인 전투기를 실전 배치하겠다는 계획을 세우고 있습니다. F-35나 차세대 전투기 한 대가 여러대의 AI 무인기를 거느리고 다니며, 위험한 임무는 AI에게 맡기고 인간은 후방에서 지휘하는형태입니다.

켄달은 덧붙여 말했습니다. "이것은 변혁적인 순간입니다. 수십 년간 상상만 해왔던 자율 공중전의 잠재력이 이제 현실이 되었습니다. 머지않은 미래에 공군은 두 종류로 나뉠 것입니다. 이기술을 도입한 공군과, 그러지 않아서 그들에게 패배하는 공군으로 말이죠.”

쉴드AI의 제품 담당 수석 부사장인 브렛 다시는 이렇게 설명했습니다. "우리는 연구실에서 실제 비행기로 가는 방법을 입증했습니다. 기술을 거기까지 가져가는 것뿐만 아니라, 필요한 규정 준수, 테스트 및 검증 부분을 지원하기 위한 우리 직원들의 방법도 입증했습니다." 그에 따르면, 탑재된 자율성은 민간용으로 만들어진 것이 아니었습니다. A 지점에서 B 지점으로 비행하기 위해 만들어진 것도 아니었습니다. 훨씬 더 정교한 무언가를 하기 위해 만들어졌습니다. 적이 어디에 있고, 적이 무엇을 하고 있으며, 안전과 무기 효과성 모두를 해결하기 위해 내 비행기를 어떻게 위치시킬 것인가를 동적으로 추론해야 했습니다.

VISTA의 군 운영자들은 세계 어느 나라도 이와 같은 AI 제트기를 보유하고 있지 않다고 말합니다. 소프트웨어가 먼저 시뮬레이터에서 수백만 개의 데이터 포인트로 학습한 다음 실제 비행 중에 결론을 테스트하고, 그 실제 성능 데이터가 다시 시뮬레이터로 입력되어 AI가 더 많이학습하는 순환 구조입니다. 중국도 AI를 보유하고 있지만, 시뮬레이터 밖에서 이런 테스트를

실행할 방법을 찾았다는 징후는 없습니다. 전술을 처음 배우는 하급 장교처럼, 일부 교훈은 공중에서만 배울 수 있다고 VISTA의 시험 조종사들은 말합니다.

수석 시험 조종사 빌 그레이의 말이 이것을 정리합니다. "실제로 비행하기 전까지는 모두 추측입니다. 그리고 그것을 알아내는 데 시간이 오래 걸릴수록, 유용한 시스템을 갖추기까지 시간이 더 오래 걸립니다.”

VISTA는 2023년 9월 첫 AI 제어 도그파이트를 비행한 이후, 약 24회의 유사한 비행을 수행했습니다.

그러나 프로그램은 각 교전에서 너무 빠르게 학습하고 있어서, VISTA에서 테스트되는 일부 AI 버전은 이미 공대공 전투에서 인간 조종사를 이기고 있습니다. 이 기지의 조종사들은 어떤 면에서 자신들의 후임자를 훈련시키거나 더 적은 수의 조종사가 필요한 미래 구조를 형성하고 있을 수 있다는 것을 알고 있습니다. 그러나 그들은 또한 미국이 자체 함대를 보유하지 않는다면 AI 제어 항공기를 보유한 적과 하늘에서 맞서고 싶지 않다고 말합니다.

"우리는 계속 달려야 합니다. 그리고 빨리 달려야 합니다"라고 켄달은 말했습니다.

냉정하게 말하면, 이 사건의 진짜 메시지는 AI가 무기를 쏜다가 아닙니다. AI가 무기를 쏘는 쪽으로 시스템이 진화할 유인이 너무 강하다는 것입니다. 속도, 비용, 생존성. 인간이 매번 루프를돌며 결심하기엔 전장이 너무 빨라지고, 유무인 복합 편대에서 인간이 모든 발사를 직접 통제하는 방식은 확장성에 한계가 생깁니다. 앞으로의 현실적 그림은 대개 이렇습니다. 평시와 회색지대에서는 인간 통제가 강화되고 AI는 추천과 경보 중심으로 작동합니다. 고강도 전시에서는 인간이 정책과 금지선을 미리 설정하고 AI는 제한된 조건에서 교전 권한을 확대합니다. 최종 단계에서는 인간이 항상 버튼을 누른다가 아니라, 인간이 버튼을 누르지 않아도 되는 조건을 설계한다로 이동합니다.

켄달이 조종석에서 본 것은 바로 그 이동의 첫 페이지입니다. 사람은 그 페이지를 읽을 준비가덜 됐을지 몰라도, 하늘은 이미 다음 장으로 넘어가고 있습니다.

1947년 척 예거가 X-1을 타고 음속을 돌파하며 초음속 시대를 열었다면, 2024년 프랭크 켄달은 X-62A를 타고 AI 공중전 시대를 열었습니다. 기계가 인간의 도움 없이 스스로 하늘을 날아올라, 인간과 겨루고, 인간 리더에게 합격점을 받은 날이었습니다. 이제 하늘의 지배권은 인간만의 것이 아니게 되었습니다. 알고리즘 에이스의 시대가 활주로를 박차고 날아올랐습니다.