AI 서재
책으로 읽는 AI서재
한 권을 고르고, 목차에서 차례대로 읽을 수 있게 정리했습니다.
PDF 다운로드 책
다국어로 읽는 대학생 교양 인공지능
한국어 원문과 외국어 번역을 함께 실은 유학생용 교재입니다. 각 책 소개 페이지에서 PDF를 받을 수 있습니다.
[AI서재] 29장 AI는 도구인가, 새로운 종인가?
데미스 허사비스, 구글 인공지능의 아버지
29 AI는 도구인가, 새로운 종인가?
김경란, 김경진
거대 기업 내에서의 혁신과 윤리적 긴장 구글 내부의 AI 윤리 논쟁과 허사비스의 입장 2014년 1월, 런던의 차가운 겨울 바람이 불던 날, 데미스 허사비스는 일생일대의 도박을 감 행하고 있었습니다. 래리 페이지와의 협상 테이블 위에 올려진 것은 단순한 인수 금액이 아니었습니다. 허사비스는 구글이라는 거대 제국이 딥마인드를 삼키되, 소화시키지는 못 하게 할 안전장치를 요구했습니다.
그것은 바로 '윤리 위원회(Ethics Board)'의 설치였습니 그는 이 기술이 인류 역사상 가장 강력한 힘을 가질 것임을 확 신하고 있었고, 그 힘이 주주들의 이익만을 위해 휘둘리는 것을 원치 않았습니다. 당 시 그는 "우리는 단지 더 똑똑 한 검색 엔진을 만들기 위해 이 연구를 하는 것이 아니다"라고 단언했습니다. 이것은 다윗 이 골리앗의 갑옷을 입으면서도 자신의 물맷돌을 지키려는 시도와 같았습니다.
그러나 10년이 지난 2024년, 상황은 허사비스가 예상했던 것보다 훨씬 더 복잡하고 위태롭 게 변해버렸습니다. 챗GPT의 등장으로 촉발된 생성형 AI 전쟁은 구글 딥마인 드를 더 이상 상아탑에 머물게 두지 않았습니다. 구글 마운틴뷰 본사에서는 '코드 레 드(Code Red)'가 발 령되었고, 런던의 딥마인드 연구원들은 더 이상 논문 작성에만 몰두할 수 없었습니다.
그 들은 이제 구글이라는 거함의 생존을 책임지는 '엔진 룸 (Engine Room)'이 되어야했습니다. 이 과정에서 발생한 윤리적 긴장은 딥마인드의 정체성을 뒤흔들었습니다. 초기의 윤리 위 원회는 대중에게 명단조차 공개되지 않은 채 베일에 싸여 있었고, 구글 내부 의 윤리 AI 팀 (Ethical AI Team)과 경영진 간의 마찰은 팀니트 게브루(Timnit Gebru) 박사의 해고 사태로 폭발했습니다.
허사비스는 이 소용돌이 속에서 침묵을 지 키는 듯 보였지만, 그의 내면은 연구자로서의 이상과 경영자로서의 현실 사이에서 줄 타기를 하고 있었습니다. 그는 공개 적인 비판 대신 내부적인 '정렬(Alignment)' 연구를 강화하는 쪽을 택했습니다. 딥마인드 내 부에서는 "우리가 괴물을 만들고 있는 것 은 아닌가?"라는 자조 섞인 목소리와 "우리가 만 들지 않으면 더 위험한 누군가가 만 들 것이다"라는 현실론이 치열하게 부딪혔습니다.
2024년 제미나이(Gemini) 모델의 이미지 생성 오류 사태는 이러한 긴장이 표면화 된 결정적 사건이었습니다. 역사적 인물의 인종을 무리하게 다양화하려다 발생한 이 오류는, 기술적 결함이라기보다는 과도한 윤리적 보정이 오히려 편향을 낳은 '역설적 실패'였습니다. 허사비스는 이에 대해 "우리가 의도한 바가 아니었다"고 해명했지만, 이는 단순히 코드 몇 줄을 수정해서 해결될 문제가 아니었습니다.
그것은 '보편적이고 중립적인 지능'을 만들겠다는 딥마인드의 이상이, 실리콘밸리의 문화 전쟁(Culture War)이라는 현실의 진흙탕에 발을 담 갔을 때 어떤 일이 벌어지는지를 보여주는 상징 적인 장면이었습니다. 허사비스의 입장은 미묘하게 변화해 왔습니다. 그는 초기에 "AI를 구글과 분리된 독립적 인 연구체로 유지하겠다"고 고집했지만, 이제는 "책임감 있는 AI(Responsible AI)"라는 구 글의 전사적 슬로건 아래 딥마인드를 통합시켰습니다.
어떤 비평가들은 이를두고 "이상주의자 허사비스가 자본주의에 무릎 꿇었다"고 비 판합니 하지만 그의 측근들은 다른 이야기를합니다. 허사비스는 구글이라는 거대한 인프라 없이는 AGI(범용 인공지능)에 도달할 수 없다는 사실을 뼈저리게 깨달았다는 것입니다. 그는 2025년 다보스 포럼에서 이렇게 말했습니다.
"안전은 속도를 늦추는 브레이크 가 아니 라, 더 멀리 가기 위한 핸들입니다." 즉, 그는 구글 내부의 윤리적 논쟁을 단순 한 제약이 아 니라, AGI가 폭주하지 않도록 제어하는 필수적인 통제 시스템으로 받아 들이기 시작한 것입니다. 그는 거대 기업의 이윤 추구 동기와 인류를 위한 안전장치 사이에서, 자신만이 풀 수 있는 가장 어려운 퍼즐을 맞추고 있는 셈입니다.
오픈 vs 클로즈드, 경쟁 vs 협력의 딜레마 2016년 알파고가 이세돌 9단을 꺾었을 때, 딥마인드는 그 작동 원리를 담은 논문을 네이처 (Nature)에 전면 공개했습니다. 전 세계 개발자들은 환호했고, 이는 곧 알파고 제로, 알파제 로 등으로 이어지는 기술 발전의 기폭제가되었습니다. 당시 허사비스의 철학은 명확했습니다.
"과학은 공유될 때 발전한다." 그는 17세기 왕립학회(Royal Society)의 전통을 이어받 아, 발견을 숨 기지 않고 세상에 내놓는 것을 과학자의 의무로 여겼습니다. 알파폴드 (AlphaFold) 역시 전 세계 생물학자들에게 무료로 공개되어 수십 년간 풀리지 않던 단백질 구조 문 제를 해결하는 데 기여했습니다. 이것은 '과학적 이타주의'의 승리였습니다.
2023년을 기점으로 공기는 차갑게 변했습니다. 오픈AI가 GPT-4의 기술적 세부 사항을 공 개하지 않기로 결정하면서, '오픈(Open)'의 시대는 저물고 '클로즈드 (Closed)'의 시대, 혹은 ' 비밀주의(Secrecy)'의 시대가 도래했습니다. 구글 딥마인드 역시 이 흐름을 거스를 수 없었습니다.
허사비스는 2024년 한 인터뷰에서 "이제는 위 험한 정보를 공개하는 것이 오히려 무책임한 행동이 될 수 있다"고 말했습니다. 과거 에는 논문을 공개하는 것이 인류에 대한 기여였지만, AGI에 근접한 강력한 모델의 설 계도를 공개하는 것은 마치 핵무기 제조법을 인터넷에 올리는 것과 다름없다는 인식 이 자리 잡은 것입니다. 이 딜레마는 허사비스에게 뼈아픈 것이었습니다.
그는 본능적으로 개방과 협력을 지향하 는 학자였지만, 현실은 그에게 성벽을 높이 쌓고 해자(Moat)를 파라고 강요하 고 있었습니 2025년 초, 메타(Meta)의 얀 르쿤이 "AI를 오픈 소스로 풀어야만 민주적 인 통제가 가능 하다"고 주장하며 라마(Llama) 모델을 공개했을 때, 허사비스는 깊은 침묵에 잠겼습니다. 그는 메타의 방식이 "돌이킬 수 없는 위험을 초래할 수 있다"고 우 려하면서도, 구글 딥마인 드가 점점 더 폐쇄적인 요새가 되어가는 것에 대한 연구자들 의 반발을 무마해야 했습니 내부의 많은 인재들이 "우리가 여기 온 이유는 과학적 발 견을 공유하기 위해서지, 구글 의 주가를 올리기 위해서가 아니다"라며 회사를 떠나 오픈 소스 진영으로 이동하는 것을 지켜보는 것은 그에게 큰 고통이었습니다. 경쟁과 협력의 딜레마 또한 그를 옥죄고 있습니다.
허사비스는 2023년 영국 블레츨 리 파크에서 열린 AI 안전 정상회의에서 샘 올트먼, 다리오 아모데이와 나란히 서서 "AI 안전을 위 한 국제적 협력"을 약속했습니다. 겉으로는 경쟁사 대표들이 손을 잡고 인류의 미래를 걱 정하는 아름다운 그림이었습니다. 그러나 무대 뒤에서는 치열한 영 입 전쟁과 칩 확보 전쟁 이 벌어지고 있었습니다.
허사비스는 2026년 다보스에서 앤 스로픽의 CEO 다리오 아모데 이와 대담을 나누며 "모델이 서로를 가르치며 기하급수 적으로 발전하는 자기 개선(Self272 improvement) 루프"에 대해 논의했습니다. 두 사 람은 안전을 위해 협력해야 한다고 동의하 면서도, 누가 먼저 그 루프를 완성하여 '마 지막 발명'을 손에 넣을 것인지에 대한 경쟁심을 숨기지 않았습니다. 허사비스는 이제 "오픈 사이언스"라는 자신의 오랜 신념을 수정하여 "신중한 배포 (Staged Release)"라는 새로운 원칙을 세웠습니다.
그는 이것을 과학적 후퇴가 아니라 "전략적 인내 "라고 부릅니다. 그는 경쟁사들이 무모하게 속도를 높일 때, 딥마인드만 큼은 과학적 엄밀 함과 안전을 담보하며 천천히, 그러나 확실하게 나아가야 한다고 믿습니다. 하지만 시장은 기다려주지 않습니다. 투자자들은 "왜 구글은 더 빨리 내놓지 않는가?"라고 아우성칩니 이 '열린 과학자'와 '닫힌 기업가' 사이의 모순은 허사비스가 매일 아침 거울을 보며 마 주해야 하는 골리앗의 역설, 그 자체입니다.
기술 낙관주의와 신중함 사이의 균형 "기술은 중립적이나, 그 사용은 중립적이지 않 다" 2024년 12월, 스톡홀름 콘서트홀에서 노벨 화학상을 수상하던 날, 데미스 허사비 스의 표정 은 환희보다는 엄숙함에 가까웠습니다. 그는 수상 연설에서 알파폴드가 가 져올 의학적 혁 명을 이야기하며 청중을 매료시켰습니다. "지능을 풀면, 질병도, 기후 위기도, 에너지 문제 도 해결할 수 있습니다."
그가 말하는 '근본적 풍요(Radical Abundance)'의 세계는 손에 잡힐 듯 생생했습니다. 그것은 그가 12세 때 체스판을 바 라보며 꿈꾸었던, 지능이 인류를 구원 하는 세상이었습니다. 허사비스에게 AI는 선 (善)도 악(惡)도 아니었습니다.
그것은 마치 불 이나 전기와 같은, 문명을 다음 단계로 도약시킬 중립적인 에너지였습니다. 그러나 그가 무대를 내려와 마주한 현실은 그렇게 단순하지 않았습니다. 그는 자신 이 만 든 도구가 중립적일지라도, 그것을 쥔 인간은 결코 중립적이지 않다는 사실을 누구보다 잘 알고 있었습니다.
2023년, 그가 'AI 멸종 위험 성명서(Statement on AI Risk)'에 서명했을 때, 많은 이 들이 의아 해했습니다. "자신이 만드는 기술이 인류를 멸종시킬 수 있다고 경고하면 서, 왜 개발을 멈 추지 않는가?"라는 비판이 쏟아졌습니다. 이에 대해 허사비스는 "우 리가 멈춘다고 해서 이 기술이 사라지지 않는다.
오히려 책임감 있는 우리가 선두에 서서 올바른 방향을 제시 해야 한다"고 반박했습니다. 허사비스의 기술 낙관주의는 맹목적인 믿음이 아닙니다. 그것은 철저한 계산과 시 뮬레이 션 위에서 있는 '조건부 낙관주의'입니다. 그는 기술의 본질을 '지능의 확장'으로봅니다.
인간의 뇌가 가진 생물학적 한계를 실리콘 기반의 지능으로 보완함으로써, 우리는 우주의 비밀을 더 빨리 풀 수 있다는 것입니다. 예 컨대, 핵융합 발전의 난제인 플라즈마 제어를 딥마인드의 AI가 해결해낸 사례는 그에게 강 력한 증거가되었습니다. 그는 "우리가 AI를 두려워만 한다면, 암으 로 고통받는 환자들을 구할 기회를 스스로 포기하는 것"이라고 말합니다. 그에게 있어 AI 개발을 멈추는 것이야 말로 비윤리적인 행위인 셈입니다.
하지만 그는 동시에 뼈아픈 역사를 기억합니다. 알프레드 노벨이 다이너마이트를 만들었을 때, 그는 그것이 전쟁을 끝낼 것이라고 믿었습니다. 오펜하이머가 원자폭탄을 만들었을 때, 그는 그것이 평화를 가져올 것이라고 희망했습니다.
허사비스는 자신이 21세기의 오펜하이머가 되지 않기를 간절히 바랍니다. 그래서 그는 기 술 자체의 중립성을 강조하면서도, 그 기술이 사회에 스며드는 방식(Deploy) 에 대해서는 극도로 신중한 태도를 취합니다. 그는 "기술은 사회적 진공 상태에서 존 재하지 않는다"며, 기술자뿐만 아니라 철학자, 사회학자, 정책 입안자가 함께 모여 AI의 사용 설명서를 써야 한다고 주장합니다. 그의 낙관주의는 '기술이 모든 것을 해 결해 줄 것'이라는 안일함이 아 니라, '우리가 지혜롭게 사용한다면 기술은 우리를 구 원할 수 있다'는 의지적 희망에 가깝습니다.
불량 행위자(Bad Actors)에 대한 대비 2024년 2월, 뮌헨 안보 회의(Munich Security Conference)의 비공개 세션. 허사비스는 세계 각국의 정보기관 수장들에게 AI가 가져올 수 있는 최악의 시나리오를 브리핑하고 있었습니다. 그가 화면에 띄운 것은 터미네이터와 같은 로봇 군단이 아니었습니다. 그것은 훨씬 더 조용하고 치명적 인 위협, 바로 '생물학적 테러'와 '사이버 붕괴’였습니다.
허사비스는 알파폴드와 같은 도구가 선한 과학자의 손에서는 신약 개발의 열쇠가 되지만, 테러리스트의 손에서는 치명적인 바이러스를 설계하는 설계도가 될 수 있음을 경고했습니다. 그는 이것을 "비대칭적 위협(Asymmetric Threat)"이라고 불렀습니다. 소수의 불량 행위자 (Bad Actors)가 AI의 도움을 받아 전 세계를 인질로 잡을 수 있는 능력을 갖게 되는 상황. 이 것이야말로 허사비스가 밤잠을 설치며 고민하는 가장 구체적이고 임박 한 공포입니다.
그는 이러한 위협에 대비하기 위해 두 가지 전략을 제시합니다. 첫째는 '기술적 봉 쇄 (Technical Containment)'입니다. 그는 모델을 공개하기 전에 레드팀(Red Team) 을 통해 수천 번의 모의 해킹과 악용 시나리오를 테스트합니다.
모델이 독성 물질 제 조법을 알려주지 않 도록, 사이버 공격 코드를 작성하지 않도록 학습 단계에서부터 강 력한 가드레일을 설치하 는 것입니다. 2025년 발표된 구글의 보안 AI 프레임워크 (Secure AI Framework)는 바로 이러 한 허사비스의 철학이 구현된 결과물입니다. 그
는 "안전하지 않은 AI는 AI가 아니다"라고까지 말하며, 성능보다 안전성을 우선시하 는 기조를 확립했습니다. 둘째는 '제도적 감시(Institutional Oversight)'입니다. 허사비스는 국제원자력기구 (IAEA)와 같은 강력한 국제적 AI 감시 기구가 필요하다고 역설합니다.
그는 "어떤 기 업도, 어떤 국가 도 혼자서 이 기술을 통제할 수 없다"고 믿습니다. 2023년 영국 AI 안 전 정상회의에서 그가 주도적으로 참여한 '프론티어 AI 안전 서약'은 이러한 제도적 장치를 마련하기 위한 첫걸음이었습니다. 그는 경쟁 기업인 오픈AI나 앤스로픽과도 안전 문제에서만큼은 핫라인을 유 지하며 정보를 공유하고 있습니다.
허사비스의 가장 큰 두려움은, 기술의 발전 속도가 방어의 구축 속도를 앞지르는 것 입니 그는 이를 '페이스(Pacing)의 문제'라고 부릅니다. 너무 빨리 달리면 사고가 나고, 너무 느리게 가면 기술의 혜택을 놓칩니다. 그는 불량 행위자들이 AI를 손에 넣기 전 에, 우리가 그들을 탐지하고 방어할 수 있는 '방패 AI(Shield AI)'를 먼저 완성해야 한 다고 주장합니다. 그는 2024년 한 팟캐스트에서 이렇게 고백했습니다. "우리는 지금 시간과 경주하고 있습니 하지만 그 경주의 결승선은 기술적 완성이 아니라, 인류의 안 전한 존속입니다.”
결국 허사비스가 그리는 미래는 AI가 인간을 대체하는 세상이 아 니라, AI라는 강력한 방패를 든 인간이 질병과 빈곤, 그리고 악의적인 위협으로부터 스스로를 지켜내는 세상입니다. 그는 체스판 위에서 상대의 수를 미리 읽고 방어하듯, 보이지 않는 불량 행위자들과의 수 싸움을 지금 이 순간에도 계속하고 있습니다.
인간과 AI의 협력
이 책이 잠시라도 당신 곁에 머물렀다면, 다음 이야기가 세상에 나올 수 있도록 후원해 주세요.
(자발적 후원 부탁 구좌 : 농협 302-1096-0948-81 예금주 : 김경진)