AI 서재
책으로 읽는 AI서재
한 권을 고르고, 목차에서 차례대로 읽을 수 있게 정리했습니다.
PDF 다운로드 책
다국어로 읽는 대학생 교양 인공지능
한국어 원문과 외국어 번역을 함께 실은 유학생용 교재입니다. 각 책 소개 페이지에서 PDF를 받을 수 있습니다.
[AI서재] 21장 NHS 데이터 이슈와 AI 윤리
데미스 허사비스, 구글 인공지능의 아버지
21 NHS 데이터 이슈와 AI 윤리
김경란, 김경진
2016년 NHS 로열 프리 병원과의 데이터 협약 환자 동의 없는 160만 건 의료 데이터 접근과 개인정보 우려 2016년 런던의 차가운 공기 속에서 데미스 허사비스와 그의 오랜 친구이자 딥마인드의 공 동 창립자인 무스타파 술레이만은 예상치 못한 혹독한 시련을 마주하고 있었습니다. 바둑 판 위에서 인공지능이 거둔 승리의 환호성이 채 가 라앉기도 전에, 현실 세계의 복잡하고 민감한 문제가 그들의 발목을 잡았습니다. 그것 은 기술적인 난제가 아니었습니다.
바로 '신 뢰'와 '윤리'라는, 코드로 해결할 수 없는 인간 사회의 가장 근본적인 가치에 관한 문제였습니다. 이야기는 딥마인드의 야심 찬 의료 프로젝트인 '딥마인드 헬스(DeepMind Health)'의 출범 과 함께 시작되었습니다. 허사비스와 술레이만은 인공지능이 가장 먼저 혁신해야 할 분야로 의료를 꼽았습니다.
그 들의 논리는 명쾌했습니다. 딥마인드의 기술이 단백질 구조를 예측하고 복잡 한 게임을 풀 수 있다면, 환자의 생명을 구하는 일에도 쓰여야 한다는 것이었습니다. 그 첫 번째 파트너 는 런던 북부에 위치한 로열 프리 병원(Royal Free Hospital)이었습니다.
하지만 이 목표는 시작부터 삐걱거렸습니다. 영국의 저명한 과학 잡지인 '뉴 사이언 티스트 (New Scientist)'가 딥마인드와 로열 프리 병원 사이의 데이터 공유 협약에 대 해 의문을 제기 하는 탐사 보도를 내놓았기 때문입니다. 보도의 내용은 충격적이었습니다.
딥마인드가 앱 개발을 위해 로열 프리 병원으로부터 160만 건에 달하는 환자 의 료 기록에 접근할 권한을 얻었다는 것이었습니다. 여기에는 현재 입원 중인 환자의 데 이터뿐만 아니라, 지난 5년 동 안의 기록까지 포함되어 있었습니다. 더 큰 문제는 이 데이터의 범위였습니다.
환자의 이름과 생년월일, 주소는 물론이 고, 혈액 검사 결과, 병리 기록, 방사선 영상 등 민감한 의료 정보가 망라되어 있었습니다. 심지어 HIV 보균 여부나 약물 과다 복용, 낙태 기록과 같은 극도로 사적인 정보까지 포함될 수 있 다는 사실이 알려지자 영국 사회는 발칵 뒤집혔습니다. 환자들은
자신들의 가장 내밀한 정 보가 거대 기술 기업인 구글의 자회사 손에 넘어갔다는 사실을 전혀 모르고 있었습니다. " 우리는 동의한 적이 없다"는 항의가 빗발쳤습니다. 허사비스에게 이것은 뼈아픈 실책이었습니다.
그는 항상 "인공지능은 인류를 위해 쓰여야 한다"고 강조해 왔지만, 정작 그 인류를 구성하 는 개개인의 권리를 간과했다는 비판을 피할 수 없었습니다. 딥마인드 측은 억 울함을 호소했습니다. 그들은 이 데이터가 연구용이나 상업적 목적이 아니라, 오로지 환자 진료를 돕 기 위한 앱을 개발하고 테스트하는 데만 사용된다고 주장했습니다.
또 한 데이터는 암호화 되어 관리되며 구글의 다른 데이터와 결합되지 않는다고 해명했습니다. 대중의 시선은 싸늘했습니다. 정보 불균형이 초래한 공포였습니다.
사람들은 딥마인드의 알고리즘이 내 의료 기록을 학습해 나중에 보험료를 인상하거나 취업에 불이 익을 주는 데 사용될지 모른다는 막연하지만 구체적인 두려움을 느꼈습니다. 영국 정 보위원회(ICO)가 조사에 착수했고, 결국 2017년 7월, 로열 프리 병원이 환자들에게 데이터 공유 사실을 충분 히 알리지 않음으로써 영국 데이터 보호법을 위반했다는 판 결을 내렸습니다. 이 사건은 허사비스에게 법적 문제 이상의 의미를 가졌습니다.
그것은 실리콘밸리 의 방식, 즉 "빠르게 움직이고 일단 저질러라(Move fast and break things)"라는 격언 이 사람의 생명과 존엄을 다루는 의료 현장에서는 통용될 수 없음을 보여주는 명징한 사례였습니다. 기술적 선의만으로는 충분하지 않았습니다. 절차적 정당성과 투명성이 담보되지 않 은 혁 신은 사회적 저항에 부딪힐 수밖에 없다는 것을 딥마인드는 비싼 수업료를 치르 고 배웠습니다.
허사비스는 깊은 고뇌에 빠졌습니다. 그는 기술자로서 효율성을 추구 했지만, 경영자 로서 사회적 책임을 져야했습니다. 160만 건의 데이터는 단순한 숫자 가 아니었습니다.
그 하나하나가 고통받고, 치유받고, 때로는 죽음을 맞이한 인간의 삶이었습니다. 이후 딥마인 드는 윤리 위원회를 재정비하고, 데이터 접근 방식을 근본 적으로 재검토하게됩니다. 이는 훗날 알파폴드와 같은 거대 과학 프로젝트를 진행할 때 데이터를 다루는 그들의 신중한 태 도에 결정적인 영향을 미치게됩니다.
딥마인드 헬스의 스트림스(Streams) 앱과 급성 신장 손상 탐지 논란의 중심에 섰던 '스트림스(Streams)' 앱은 아이러니하게도 인공지능 기술이 거의 들어 가지 않은, 매우 실용적이고 직관적인 소프트웨어였습니다. 하지만 이 앱의 탄생 배경과 기능은 당시 영국 의료 시스템(NHS)이 처한 현실과 딥마인드가 추구했던 '현실 문제 해결' 의 접 점을 정확히 보여줍니다. 이야기는 로열 프리 병원의 신장 내과 전문의들이 겪고 있던 답답한 현실에서 시작 됩니 급성 신장 손상(AKI, Acute Kidney Injury)은 병원에 입원한 환자들에게서 흔히 발생하 는 합병증으로, 신장 기능이 갑작스럽게 저하되는 상태를 말합니다. AKI는 조 기에 발견하 면 수액 처방이나 약물 조절만으로도 쉽게 치료할 수 있지만, 발견이 늦 어지면 영구적인 신장 손상을 입거나 사망에 이를 수도 있는 치명적인 질환입니다.
영 국에서만 매년 4만 명 이상의 환자가 AKI로 인해 피할 수 있었던 죽음을 맞이한다는 통계도 있었습니다. 문제는 '정보의 속도'였습니다. 2016년 당시 NHS의 많은 병원은 여전히 종이 차트 와 호출 기(삐삐), 팩스에 의존하고 있었습니다.
환자의 혈액 검사 결과가 나오면 검사 실에서는 이 상 징후를 발견하지만, 이 정보가 담당 의사에게 전달되기까지는 몇 시 간, 길게는 하루가 걸리기도했습니다. 의사들은 수많은 환자의 차트를 일일이 뒤져봐 야 했고, 그사이 환자의 신장은 소리 없이 망가져 갔습니다. 무스타파 술레이만은 이 비효율을 기술로 해결하고자했습니다.
스트림스 앱의 원 리는 간 단했습니다. 병원 시스템과 연동하여 환자의 혈액 검사 결과에서 크레아티닌 수치가 급격 히 상승하는 등 AKI 징후가 포착되면, 즉시 담당 의료진의 스마트폰으로 알림을 보내는 것입니다. 마치 주식 시장의 급등락 정보를 실시간으로 받아보듯이, 의사들은 환자의 위기 상황을 즉각적으로 인지할 수 있게되었습니다.
스트림스는 환자의 과거 병력, 현재 투약 정보, 활력 징후 등을 보기 편한 인터페이 스로 정 리해 보여주었습니다. 의사들은 더 이상 종이 차트 더미를 뒤질 필요 없이 스 마트폰 화면을 통해 환자의 상태를 한눈에 파악하고 처방을 내릴 수 있었습니다. 딥 마인드 팀은 이 앱을 개발하기 위해 의사와 간호사들을 그림자처럼 따라다니며 그들 의 동선과 업무 방식을 철저히 분석했습니다. 사용자 경험(UX) 디자인이 의료 현장의 긴박함과 만나는 순간이었습니다.
기술적으로 스트림스는 딥러닝이나 거대 언어 모델과 같은 최첨단 AI가 아니었습니다. 오 히려 기존의 의료 알고리즘을 모바일 환경에 맞게 최적화한 데이터 시각화 도구에 가까웠습니다. 허사비스와 술레이만은 여기서 중요한 결정을 내렸습니다.
"화 려한 AI 기술을 과 시하는 것보다, 지금 당장 현장에서 사람을 살리는 도구를 만드는 것이 중요하다"는 실용 주의적 접근이었습니다. 그들은 AI를 적용하기에 앞서, 데이터 가 흐르는 파이프라인부터 뚫어야 한다고 판단했습니다. 스트림스의 성과는 즉각적이었습니다.
로열 프리 병원에서의 시범 운영 결과, AKI 환자를 확인하는 데 걸리는 시간이 몇 시간에서 몇 초 단위로 단축되었습니다. 의료진 은 하루 평 균 2시간의 행정 업무 시간을 절약하여 환자를 돌보는 데 더 많은 시간을 쓸 수 있었습니 응급 상황 대응 속도가 빨라지면서 환자들의 생존율 향상에도 기여할 수 있다는 가능 성을 보여주었습니다. 현장의 간호사들과 의사들은 이 앱을 "의료 시 스템의 혁명"이라 부 르며 환영했습니다.
그러나 이 빛나는 성과는 앞서 언급한 데이터 프라이버시 논란이라는 그림자에 가 려졌습니다. 딥마인드는 앱이 제대로 작동하는지 검증하기 위해 AKI 환자뿐만 아니 라 모든 환자 의 데이터가 필요했다고 항변했지만, 대중과 규제 당국은 "빈대 잡으려 다 초가삼간 태운 격"으로 개인정보를 침해했다고 보았습니다. 결국 스트림스 프로젝 트는 기술이 아무리 유 용하고 선한 의도를 가졌더라도, 사회적 합의와 법적 테두리를 벗어나면 지속 가능하지 않 다는 뼈아픈 교훈을 남겼습니다.
2019년, 딥마인드 헬스 팀이 구글 헬스로 통합되면서 스트림스 앱의 운영 주체는 구글로 넘어갔습니다. 이는 또 한 번의 논란을 낳았습니다. "딥마인드의 의료 데이터 는 구글의 광 고 비즈니스와 영원히 분리될 것"이라던 초기 약속이 깨진 것처럼 보였 기 때문입니다.
스 트림스는 의료 현장에서 정보 기술이 얼마나 큰 힘을 발휘할 수 있 는지를 증명한 동시에, 빅테크 기업이 공공 의료 영역에 진입할 때 겪게 되는 불신과 갈등을 상징하는 이정표로 남게되었습니다. 허사비스에게 스트림스는 성공인 동시에 상처였으며, 앞으로 다가올 AI 시대를 위해 반드시 풀어야 할 숙제를 던져준 예방주사였습니다. 의료 AI의 성과와 한계 안과 질환 진단 AI: Nature Medicine 논문과 무어필즈 안 과병원 협력 2016년 여름, 데미스 허사비스는 런던 올드 스트리트에 위치한 세계적인 안과 전문 병원인 무어필즈 안과병원(Moor elds Eye Hospital)의 문을 두드렸습니다.
로열 프리 병원에서의 데이터 논란으로 호된 신고식을 치른 직후였지만, 그는 멈추지 않았습니다. 이번에는 달랐습니다. 더 조심스럽고, 더 정교하며, 무엇보다 더 투명한 방식으로 접근했습니다.
그의 파 트너는 무어필즈의 젊고 열정적인 안과 의사 피어스 킨(Pearse Keane)이었습니다. 피어스 킨 박사는 당시 절망적인 상황과 싸우고 있었습니다. 고령화 사회로 접어들 면서 노 인성 황반변성(AMD)이나 당뇨병성 망막증 같은 안과 질환 환자가 폭증하고 있었습니다.
이를 진단하기 위한 빛 간섭 단층촬영(OCT, Optical Coherence Tomography) 기기는 병원에 있었지만, 쏟아져 나오는 수천 장의 3차원 스캔 이미지를 판독할 전문의의 눈은 턱없이 부 족했습니다. 환자들은 진단을 받기 위해 몇 주, 몇 달을 기다려야 했고, 그 사이 시력을 잃 는 경우도 허다했습니다. 킨 박사는 허사비스에게 말했습니다.
"우리는 데이터의 홍수 속 에 빠져 죽어가고 있습니다. 당신의 AI가 우리를 구해줄 수 있습니까?” 허사비스는 이 제안을 딥마인드의 미션인 "지능을 풀어 세상을 돕는다"를 실현할 완벽한 기회로 보았습니다.
하지만 이번에는 데이터 처리에 만전을 기했습니다. 딥마인드는 무어 필즈 병원으로부터 약 1만 5천 명의 환자에게서 얻은 14,884개의 익명화된 OCT 스캔 데이터를 제공받았습니다. 로열 프리 사태의 교훈을 바탕으로, 데이터의 사용 목적과 범위를 명확히 하고 철저한 비식별화 과정을 거쳤습니다.
딥마인드 연구팀은 이 데이터를 바탕으로 두 단계의 인공지능 모델을 설계했습니다. 첫 번 째 신경망은 OCT 이미지를 분석하여 눈의 조직과 병변을 정밀하게 분할 (Segmentation)하 는 역할을했습니다. 지도를 그리듯 망막의 층과 이상 부위를 픽셀 단위로 구분해내는 것입니다.
두 번째 신경망은 이 지도를 바탕으로 질병의 종류를 분류하고 긴급도를 판단했습니다. 2018년 8월, 딥마인드와 무어필즈 연구팀의 공동 연구 결과가 세계적인 의학 저널 인 《네 이처 메디신(Nature Medicine)》에 게재되었습니다. AI 모델은 50가 지 이 상의 안과 질환을 진단하는 데 있어 무어필즈 병원의 최고 수준 전문의들과 대등하거 나 더 뛰어난 성능을 보였습니다.
정확도는 94%를 상회했고, 무엇보다 진단 오류율 (오진율) 은 5.5%로, 인간 전문가 8명의 평균 오진율인 6.7%보다 낮았습니다. 특히 위급한 환자를 선 별하여 우선순위를 정하는 트riage(중증도 분류) 능력에서 탁월한 성능을 발휘했습니다.
이 연구가 학계의 찬사를 받은 진짜 이유는 높은 정확도 때문만이 아니었습니다. 허 사비스 와 연구팀은 의료 AI의 고질적인 문제인 '블랙박스(Black Box)' 문제를 해결하 기 위해 노력했습니다. 기존의 딥러닝 모델은 결과만 던져줄 뿐 "왜" 그런 판단을 내 렸는지 설명하지 못 해 의사들의 불신을 샀습니다.
하지만 딥마인드의 모델은 달랐습니다. AI는 진단 결과와 함께 OCT 스캔 이미지 위에 병변 부위를 색깔별로 표시하여 보여주었습니다. 의사는 AI 가 어느 부분을 보고 질병을 판단했는지 눈으로 확인할 수 있었고, 이를 통해 AI의 판단을 검증하고 신뢰할 수 있게되었습니다.
이는 "설명 가능한 AI(XAI, Explainable AI)"가 의료 현장에 적용된 모범 사례였습니다. 딥 마인드의 시스템은 의사를 대체하는 것이 아니라, 의사에게 강력한 '디지털 현미경'을 쥐여 주는 도구였습니다. 의사는 AI의 1차 소견을 바탕으로 더 빠르고 정확하게 최종 진단을 내릴 수 있게 되 었습니 이 프로젝트는 기술 기업과 의료 기관이 어떻게 협력해야 하는지를 보여주는 교과서적 인 모델이되었습니다.
허사비스는 이를 통해 딥마인드가 단순히 바둑만 잘 두는 회사가 아니라, 실제 과학과 의학의 난제를 해결할 수 있는 능력을 갖췄음을 전 세계에 증명해 보였습니다. 무어필즈 프로젝트는 딥마인드가 잃어버린 신뢰를 회복 하고, AI가 인류의 건강 에 기여할 수 있다는 희망을 다시금 쏘아 올린 신호탄이었습니다. 의료 데이터의 윤리적 활용을 둘러싼 교훈 무어필즈 안과병원과의 성공적인 협력 과 로열 프리 병원에서의 뼈아픈 실수는 데미스 허 사비스와 딥마인드, 나아가 전 세 계 AI 연구자들에게 의료 데이터의 윤리에 관한 심오한 교훈을 남겼습니다.
그것은 "데이터는 단순한 자원이 아니라 신뢰의 증표"라는 깨달음이었습니다. 첫 번째 교훈은 '투명성'과 '동의'의 가치입니다. 로열 프리 사건에서 딥마인드는 법 적으로 는 NHS의 정보 거버넌스 담당자(Caldicott Guardian)의 승인을 받았다고 주 장했지만, 환자 개개인의 명시적 동의가 결여된 '포괄적 데이터 접근'은 사회적 용인을 받지 못했습니다.
이는 2018년 유럽연합의 일반 개인정보 보호법(GDPR) 시행과 맞 물려, 데이터 주권에 대한 인식을 완전히 바꾸어 놓았습니다. 이후 딥마인드는 모든 의료 프로젝트에서 환자 참여 그룹을 만들고, 데이터가 어떻 게 사용 되는지 일반 대중의 언어로 설명하는 데 막대한 노력을 기울였습니다. 기술이
아무리 훌륭 해도 그 과정이 불투명하면 사회는 그 기술을 거부한다는 사실을 뼈저리 게 느낀 것입니다. 두 번째 교훈은 '목적의 명확성'입니다. 스트림스 앱 개발 당시 딥마인드는 급성 신 장 손상 탐지라는 특정 목적을 위해 광범위한 전체 의료 기록을 가져왔습니다.
이는 '데이터 최소 화 원칙(Data Minimization Principle)'—목적 달성에 필요한 최소한의 데이터만 사용해야 한 다는 원칙—에 위배된다는 비판을 받았습니다. 반면 무어필즈 프로젝트에서는 안구 스캔 이미지와 그와 관련된 직접적인 진단 데이터로 범위를 한 정했고, 철저한 익명화를 거쳤습니다. 이는 AI 학습을 위한 데이터 수집이 '다다익선 (The more, the better)'이 아니라 '정밀 타 격(Precision targeting)'이어야 함을 시사했습니다.
세 번째는 '공공의 이익'과 '사기업의 이익' 사이의 긴장 관계입니다. NHS는 영국 국 민들의 세금으로 운영되는 공공 의료 시스템입니다. 이곳의 데이터는 국민들의 공공 자산입니다.
구글이라는 세계 최대의 영리 기업 자회사가 이 데이터를 무료로 활용해 알고리즘을 개발 하고, 나중에 그 기술을 다시 NHS에 판매하거나 다른 나라에 팔아 수익을 낸다면 그것은 정당한가? 이 질문은 여전히 현재 진행형입니다. 허사비스는 이를 해결하기 위해 딥마인 드 헬스의 기술을 오픈 소스화하거나, 공공에 이익을 환원 하는 모델을 고민해야했습니다. 이는 AI 기업이 단순히 기술 공급자가 아니라 사회적 계약의 당사자가 되어야 함을 의미했습니다.
마지막으로, '인간 중심의 기술 구현'입니다. 스트림스와 안과 진단 AI 모두, 결국 최 종 결정 권자는 의사였습니다. AI는 진단을 내리는 판사가 아니라, 증거를 수집해오는 유능한 수사 관 역할에 머물러야했습니다.
무어필즈 프로젝트에서 보여준 '설명 가능 성'은 기계가 인간을 소외시키지 않고 협력하기 위한 필수 조건이었습니다. 딥마인드 는 기술적 정확도 (Accuracy)만큼이나 임상적 유용성(Utility)과 설명 가능성 (Explainability)이 중요하다는 것을 증명했습니다. 허사비스에게 의료 AI는 체스판이나 바둑판과는 전혀 다른 차원의 게임이었습니다.
바둑 판은 19줄의 선과 명확한 규칙, 그리고 승패만이 존재하는 닫힌 세계(Closed System)였습니 하지만 병원은 불완전한 정보, 환자의 고통, 프라이버시, 법적 규제가 얽히고설킨 열린 세계(Open System)였습니다. 딥마인드는 이 열린 세계에서 수많은 시행착오를 겪으며, "지 능을 푼다"는 것이 단순히 알고리즘의 성능을 높이는 것이 아
니라, 그 지능이 사회 속에 안 전하게 착륙하도록 돕는 것까지 포함한다는 사실을 배 웠습니다. 이 교훈들은 훗날 딥마인드가 생물학의 난제인 단백질 구조 예측(알파폴드)으로 나 아갈 때, 그리고 더 강력한 범용 인공지능(AGI)을 논할 때 그들의 윤리적 나침반이되었습니다. "가장 강력한 기술은 가장 높은 수준의 책임을 요구한다."
이것이 로열 프리 의 병동과 무어 필즈의 진료실에서 허사비스가 얻은, 노벨상만큼이나 값진 발견이었습니다. NHS Royal Free London 병원
이 책이 잠시라도 당신 곁에 머물렀다면, 다음 이야기가 세상에 나올 수 있도록 후원해 주세요.
(자발적 후원 부탁 구좌 : 농협 302-1096-0948-81 예금주 : 김경진)