AI 서재
책으로 읽는 AI서재
한 권을 고르고, 목차에서 차례대로 읽을 수 있게 정리했습니다.
[AI서재] 19장 수학과 알고리즘의 혁신
데미스 허사비스, 구글 인공지능의 아버지
제7부 AI for Science
19 수학과 알고리즘의 혁신
김경란, 김경진
문제 해결 2024년 7월, 영국의 고풍스러운 도시 바스(Bath)에서는 전 세계에서 가장 뛰어난 수학 영재 들이 모여 제65회 국제수학올림피아드(IMO)를 치르고 있었습니다. 같은 시각, 데미스 허 사비스가 이끄는 구글 딥마인드의 연구실에서도 보이지 않 는 참가자가 시험지를 받아 들었습니다. 바로 ‘알파 프루프(AlphaProof)'와 ‘알파 지 오메트리 2(AlphaGeometry 2)'라는 이 름의 AI 모델이었습니다.
허사비스는 늘 "수학은 자연을 기술하는 언어"라고 강조해 왔습니다. 바둑이나 체스처럼 규칙이 명확하지만, 그 복잡성은 무한에 가깝고 정답은 오직 하나뿐인 진리의 영 역입니다. 챗GPT와 같은 거대언어모델(LLM)이 시를 쓰고 코드를 짜는 데는 능숙했 지만, 유독 수학 앞에서는 작아졌던 이유가 여기에 있습니다.
언어 모델은 '그럴듯한' 다음 단어를 확률적으 로 예측하지만, 수학은 99.9%의 확률이 아니라 100%의 논리 적 증명을 요구하기 때문입니 허사비스는 이 간극을 메우는 것이 AGI로 가는 결정적 관문이라 확신했습니다. 알파프루프의 작동 방식은 이렇습니다. 수학 문제를 형식 언어(Lean이라는 수학 증 명 도구)로 번역한 뒤, AI가 수백만 가지 증명 경로를 탐색하며 논리적으로 빈틈없는 풀이를 찾아냅니다. 체스에서 알파고가 수를 읽듯이, 알파프루프는 증명의 수를 읽는 셈입니다.
이날 딥마인드가 공개한 결과는 인상적이었습니다. AI 시스템은 총 6문제 중 4문제를 완벽하 게 풀어내며 28점을 획득했습니다. 이는 은메달 커트라인에 해당 하는 점수였습니다.
특히 기하학 문제 하나는 불과 19초 만에 증명해 냈습니다. 몇 년 전까지만 해도 초등학교 수준 의 서술형 수학 문제도 제대로 풀지 못했던 AI가, 이제 는 인류 최상위 0.1%의 영재들과 어 깨를 나란히 하게 된 것입니다. 성취의 핵심은 허사비스가 오랫동안 고집해 온 '신경-기호(Neuro-symbolic)' 접근 법에 있었습니다.
딥마인드 팀은 직관적인 아이디어를 내는 거대언어모델(제미나이) 의 능력과, 엄격 한 논리 규칙을 검증하는 기호주의(Symbolic) 시스템을 결합했습니다. 뛰어난 직관을 가진 수학자가 가설을 세우면, 꼼꼼한 검토자가 그 가설을 한 줄 한 줄 증명해 나가는 방식과 같 았습니다. 알파프루프는 문제를 '린(Lean)'이라는 형식 증명 언어로 번역하여 스스로 학습했습니다.
이는 허사비스가 체스 신동 시절, 수만 번의 대국을 통해 직관을 기르고 복기를 통해 논리를 다졌던 과정의 디지털 버전이라 할 수 있습니다. 2024년의 은메달은 단순한 성적이 아 니었습니다. 그것은 AI가 인간의 데이터를 흉내 내는 '모방'의 단계를 넘어, 스스로 논리적 추론을 통해 '진리'에 도달할 수 있음을 증명한 사건이었습니다.
허사비스는 이 결과를 보 고받으며, AI가 과학적 발견의 도구로서 완성되어 가고 있음을 직감했습니다. 알파 에볼브(AlphaEvolve): AI가 알고리즘을 설계하는 시대 수학 문제 풀이가 주 어진 정답을 찾아가는 과정이라면, 알고리즘 설계는 정답으로 가는 '새 로운 길'을 닦 는 창조의 영역입니다. 2025년 5월, 딥마인드는 '알파에볼브(AlphaEvolve)'를 세상에 공개하며 또 한 번의 충격을 안겼습니다.
허사비스는 컴퓨터 과학의 근본적인 비효율성에 주목했습니다. 인류가 지난 50년 간 사용 해 온 정렬(Sorting), 해시(Hashing) 등의 기본 알고리즘들은 대부분 1960~70년대에 천재적 인 인간 프로그래머들이 고안한 것입니다. 그 이후 우리는 더 빠른 컴퓨터를 만드는 데 집 중했을 뿐, 이 기본 알고리즘 자체를 개선할 생각은 거의 하지 못했습니다.
허사비스는 물었습니다. "만약 AI가 인간의 편견 없이 처음부터 다 시 코드를 짠다면 어떨까?” 그 전조는 2023년 공개된 '알파데브(AlphaDev)'였습니다.
알파데브는 강화학습을 통해 C++ 라이브러리의 정렬 알고리즘을 수십 년 만에 개선 하는 성과를 올렸습니다. 하지만 알파에 볼브는 여기서 한 발 더 나아갔습니다. 제미나이(Gemini) 모델의 코드 생성 능력에 진화 연 산(Evolutionary Computation)을 결 합한 이 시스템은, 스스로 코드를 작성하고(변이), 성능을 평가하고(선택), 더 나은 코 드를 다시 작성하는(진화) 과정을 무한 반복했습니다.
알파에볼브의 위력은 구글의 심장부인 데이터센터에서 증명되었습니다. 전 세계 수 백만 대의 서버가 돌아가는 구글 데이터센터의 작업 스케줄링은 극도로 복잡한 문제입니다. 알 파에볼브는 기존 인간 엔지니어들이 설계한 방식보다 훨씬 효율적인 스케 줄링 알고리즘을 찾아냈고, 이를 통해 구글 전체 컴퓨팅 자원의 0.7%를 회수하는 데
성공했습니다. 0.7% 라는 숫자는 작아 보일 수 있지만, 구글의 규모를 생각하면 수천 억 원의 비용과 막대한 양 의 탄소 배출을 줄인 거대한 성과입니다. 더 흥미로운 것은 알파에볼브가 만들어낸 알고리즘의 형태였습니다.
인간 프로그래 머라 면 절대 작성하지 않을, 직관적으로 이해하기 힘든 명령어의 배열이 종종 발견되었습니다. 마치 알파고의 '37수'처럼, AI는 인간의 사고방식에 갇히지 않은, 컴퓨터 하 드웨어에 최적 화된 자신들만의 '방언'으로 코드를 작성하기 시작한 것입니다. 허사비 스에게 알파에볼브 는 "지능을 풀어 모든 것을 해결한다"는 미션의 강력한 증거였습니다.
AI가 단순히 인간을 돕는 비서가 아니라, 컴퓨터 과학 자체를 진화시키는 연구 파 트너가 된 것입니다. 그는 이를 두고 "우리는 디지털 생물학뿐만 아니라, 디지털 컴퓨터 과학의 시대를 열고 있다"고 평했습니다. 재료 과학의 혁명 220만 개 이상의 신소재 결정 구조 발견 2023년 말, 과학 저널 《네이처》에 실린 한 편의 논문은 전 세계 소재 과학계를 발칵 뒤집 어 놓았습니다.
딥마인드의 'GNoME' 프로젝트가 220만 개의 새로운 결정 구조를 발견했다 는 소식이었습니다. 이 의미를 이해하려면 인류 역사를 되짚어봐야합니다. 우리는 사용하는 재료에 따라 시대를 구분해 왔습니다.
석기 시대, 청동기 시대, 철 기 시대, 그리고 지금의 실리콘 시대. 새로운 재료의 발견은 언제나 문명의 퀀텀 점프를 가져왔습니 하지만 발견 과정은 지독히도 느리고 고통스러운 시행착오의 연속이었습니다. 에디슨 이 전구 필라멘트를 찾기 위해 수천 가지 재료를 태워봤던 것처럼, 현 대 과학자들도 실험 실에서 원소들을 섞고 구우며 우연한 발견을 기다려야했습니다. 인류가 지난 수천 년간 실험을 통해 밝혀낸 안정한 무기 화합물의 결정 구조는 약 4만 8천 개에 불과했습니다.
허사비스는 이 느린 시계를 가속하고 싶었습니다. 그는 단백질 구조를 예측했던 알 파폴드 의 성공 방정식을 재료 과학에 대입했습니다. "원자들의 결합 규칙을 그래프 네트워크 (Graph Networks)로 학습시키면, 안정적인 구조를 미리 예측할 수 있지 않 을까?”
GNoME은 딥러닝을 이용해 원소 주기율표의 조합을 탐색했습니다. 그리고 인류가 2만 년 동안 찾아낸 것보다 45배나 많은, 220만 개의 새로운 물질 후보군을 단 숨에 쏟아냈습니다. 그중 38만 개는 현재의 기술로도 당장 합성이 가능한 '안정적' 구
조로 판명되었습니다. 이 는 재료 과학 800년 치의 연구 분량에 해당하는 지식이었습니다. 허사비스는 이 성과를 발표하며 평소의 침착한 목소리로 말했습니다.
"우리는 지금 지식 의 탐색 범위를 근본적으로 확장하고 있습니다." 그의 말처럼 GNoME은 과학자 들에게 보 물지도를 건네주었습니다. 이제 과학자들은 맨땅에 헤딩하는 대신, GNoME이 그려준 지 도 위에서 목적지를 골라 탐험을 떠나기만 하면되었습니다.
초전도체와 청정 에너지 소재 탐색 GNoME이 발견한 보물지도 속에는 인류가 간 절히 원하던 해답들이 숨어 있었습니다. 허사비스가 가장 주목한 분야는 기후 위기 해결을 위한 청정 에너지 기술이었습니다. 전기차의 핵심인 배터리 효율을 획기적으로 높일 수 있는 리튬 이온 전도체, 태양광 패널 의 효율을 극대화할 수 있는 새로운 광물질, 그리고 꿈의 물질이라 불리는 상온 초전도체 후보 물질들이 데이터베이스에 포함되어 있었습니다.
실제로 딥마인드는 미 국 버클리 국 립연구소(LBNL)와 협력하여 'A-Lab'이라는 자율 주행 실험실을 가동했습니다. AI가 설계 한 레시피를 로봇 팔이 수행하여 신소재를 합성하는 이 미래적인 풍경은, GNoME의 예측 이 단순한 컴퓨터 시뮬레이션이 아님을 증명했습니다. A- Lab은 17일 만에 41개의 새로운 신소재를 합성해 냈습니다.
인간 연구자라면 수 년이 걸렸을 작업이었습니다. 허사비스는 '근본적 풍요(Radical Abundance)'를 다시 한번 강조했습니다. 에너지를 더 싸고 깨끗하게 만들고, 컴퓨팅 칩의 성능을 한계 이상으로 끌어올리는 물질을 발견함으로써, 자 원의 희소성으로 인한 인류의 갈등을 해결할 수 있다는 믿음입니다.
"우리가 발견한 이 38만 개의 물질 중 하나가 차세대 배터리의 표준이 될 수도 있 고, 핵융합 발전의 내벽을 감싸는 소재가 될 수도 있습니다.” 2025년 현재, 전 세계의 재료 과학자들은 GNoME이 공개한 데이터를 바탕으로 실험을 진 행하고 있습니다. 허사비스는 알파폴드가 생물학자들의 도구가되었듯, GNoME이 재료 과 학자들의 필수 도구가 되기를 바랐습니다.
그는 자신이 만든 AI가 노벨상을 받는 것보다, 그 AI를 사용한 과학자가 세상을 바꾸는 발견을 하는 것을 더 큰 영광으로 여겼습니다. 체 스판 위에서 수를 읽던 소년은 이제 원자의 배열을 읽으며 인류의 물리적 한계를 확장하 고 있었습니다.
AI와 수학의 융합을 상징하는 이미지
이 책이 잠시라도 당신 곁에 머물렀다면, 다음 이야기가 세상에 나올 수 있도록 후원해 주세요.
(자발적 후원 부탁 구좌 : 농협 302-1096-0948-81 예금주 : 김경진)