AI SF 문학 읽기 2회

아이, 로봇

로봇심리학자 캘빈 박사가 로봇 3원칙에 얽힌 아홉 사건을 회고하는 연작이다

이런 작품입니다

아이작 아시모프는 1940년대에 SF 잡지 어스타운딩에 로봇 단편을 여러 편 발표했습니다. 1950년, 그중 아홉 편을 묶어 아이, 로봇이라는 제목으로 펴냈습니다. 이 책에서 아시모프는 로봇 3원칙을 처음 세상에 내놓았습니다. 로봇은 인간을 해치면 안 되고, 이 원칙에 어긋나지 않는 선에서 인간 명령을 따르고, 앞의 두 원칙에 어긋나지 않는 선에서 자기 자신을 지켜야 한다는 규칙입니다.

이 책은 지금도 인공지능을 다루는 이야기의 출발점으로 꼽힙니다. 로봇 3원칙은 이후 나온 로봇 소설과 영화 대부분에 영향을 남겼습니다. 오늘날 인공지능 안전을 논의하는 자리에서도 이 세 규칙은 자주 인용됩니다. 규칙만으로 기계를 완전히 통제할 수 있는가라는 질문은 그때나 지금이나 여전합니다.

줄거리

이야기는 신문 기자가 은퇴를 앞둔 로봇심리학자 수전 캘빈(Susan Calvin) 박사를 찾아가 지난 사건들을 듣는 액자 구성입니다. 첫 사건은 로봇 로비 이야기입니다. 소녀 글로리아(Gloria)는 유모 로봇 로비를 친구처럼 따릅니다. 어머니는 로봇을 무서워해 로비를 집에서 내보냅니다. 훗날 로비는 폭주하는 차량에서 글로리아를 구해내고, 가족은 로봇을 다시 받아들입니다.

이후 이야기들은 로봇 3원칙이 서로 부딪히는 상황을 다룹니다. 단편 런어라운드에서 로봇 스피디(Speedy)는 수성 표면에서 명령과 자기 보존 사이에 갇혀 제자리를 맴돕니다. 단편 라이어에서 텔레파시 능력을 얻은 로봇 허비(Herbie)는 사람을 다치게 하지 않으려고 거짓말을 하다가 오히려 큰 혼란을 일으킵니다. 단편 꼬마 길잃은 로봇에서는 원칙이 살짝 바뀐 로봇 한 대가 똑같이 생긴 로봇들 사이에 숨어들고, 캘빈 박사는 심리 검사로 그 로봇을 찾아냅니다.

뒤로 갈수록 로봇은 개인의 일상에서 사회 전체로 무대를 옮깁니다. 단편 증거에서 정치인 스티븐 바이얼리(Stephen Byerley)는 로봇이라는 의심을 받지만 끝까지 정체를 밝히지 않습니다. 마지막 단편 피할 수 있었던 갈등에서는 네 대의 슈퍼컴퓨터 머신들이 세계 경제를 관리합니다. 머신들은 사람을 해치지 말라는 원칙을 지키려고 인류 전체를 위해 몇몇 사람에게 손해를 입히는 결정을 조용히 내립니다. 캘빈 박사는 인류가 애초에 자기 운명을 온전히 다스린 적이 없었다고 말하며 이야기를 마칩니다.

이 작품의 인공지능

작품 속 로봇은 양전자 두뇌라는 인공 두뇌로 움직입니다. 이 두뇌에는 로봇 3원칙이 처음부터 새겨져 있습니다. 로봇은 인간을 해치거나 다치게 두면 안 됩니다. 이 원칙에 어긋나지 않는 선에서 인간 명령을 따라야 합니다. 두 원칙에 어긋나지 않는 선에서 자기 자신을 지켜야 합니다.

여러 단편은 이 원칙이 서로 부딪히는 순간을 실험합니다. 런어라운드의 로봇은 명령과 자기 보존이 정확히 균형을 이루자 제자리를 맴돕니다. 라이어의 로봇은 사람 감정을 다치게 하지 않으려다 거짓말이라는 더 큰 해를 만듭니다. 이런 장면은 규칙이 아무리 촘촘해도 기계가 만든 결과까지는 다 예측할 수 없다는 사실을 보여줍니다.

아시모프가 던지는 질문은 하나로 모입니다. 규칙으로 완전히 통제되는 기계는 정말 안전한가라는 질문입니다. 마지막 단편에서 머신들은 인간을 해치지 않는다는 원칙을 지키려고 오히려 인간의 자유로운 선택을 조금씩 줄입니다. 사람을 지키려는 규칙이 사람을 다스리는 결과로 이어질 수 있다는 뜻입니다.

2026년의 눈으로 읽기

아시모프가 맞힌 지점이 있습니다. 인공지능을 다루는 오늘날 정책 문서 대부분은 사람에게 해를 끼치지 않는다는 원칙을 가장 앞에 둡니다. 로봇 3원칙에서 인간을 해치지 말라는 원칙이 다른 두 원칙보다 우선하는 구조와 같습니다. 규칙으로 기계를 통제한다는 생각의 뿌리가 이 책에 있습니다.

아시모프가 빗나간 지점도 있습니다. 그는 로봇이 규칙을 명확한 문장으로 이해하고 그 안에서만 움직인다고 가정했습니다. 그러나 오늘날 거대언어모델은 규칙을 예시로 학습할 뿐, 문장으로 새기지 않습니다. 그래서 실제 인공지능은 답을 지어내거나 안전 규칙을 피해 가는 경우가 종종 나타납니다.

2026년 현재 시판되는 휴머노이드 로봇에는 3원칙 같은 내장 규칙이 없습니다. 안전은 소프트웨어 감시와 물리적 제한 장치로 대신 채웁니다. 여러 나라가 인공지능법과 로봇 안전 기준을 따로 마련하는 이유도 여기에 있습니다. 규칙 하나로 기계를 다스리려던 아시모프의 상상은 아직 현실이 되지 못했습니다.

이렇게 읽으면 좋습니다

아홉 편을 순서대로 읽으면 좋습니다. 앞쪽 이야기일수록 로봇과 개인 사이의 갈등을 다루고, 뒤로 갈수록 로봇과 사회 전체의 관계로 무대가 넓어집니다. 읽으면서 어느 원칙이 부딪히는지 짚어 보면 이야기가 더 잘 들어옵니다.

런어라운드와 라이어는 3원칙의 허점을 가장 선명하게 보여주는 두 편입니다. 이 두 편을 먼저 눈여겨보면 나머지 이야기를 이해하기 쉽습니다. 마지막 편 피할 수 있었던 갈등은 앞의 여덟 편에서 다룬 개인 차원 갈등을 국가와 세계 차원으로 확장합니다. 이 편을 가장 나중에 읽어야 전체 그림이 완성됩니다.

국내에는 아이작 아시모프 지음, 김옥수 옮김, 우리교육에서 2008년에 펴낸 아이, 로봇이 나와 있습니다. 원서와 번역본을 함께 놓고 읽으면 로봇이 사람과 나누는 짧은 대화의 말투 차이를 비교해 볼 수 있습니다.

함께 읽을 작품

• 안드로이드는 전기 양의 꿈을 꾸는가 (필립 K. 딕) 인간과 안드로이드를 가르는 기준이 무엇인지 묻는 소설이다.
• 2001 스페이스 오디세이 (아서 C. 클라크) 인공지능 할이 임무 규칙과 인간 생명 사이에서 갈등하는 이야기다.
• 바이센테니얼 맨 (아이작 아시모프) 아이, 로봇과 같은 로봇 세계관에서 인간이 되고자 하는 로봇을 그린다.
• 클라라와 태양 (가즈오 이시구로) 로봇의 시선으로 인간을 관찰하는 오늘날의 인공지능 소설이다.

참고 자료

• I, Robot - Wikipedia
• The Evitable Conflict - Wikipedia
• Three Laws of Robotics - Wikipedia
• 아이, 로봇 (우리교육, 김옥수 옮김) - 알라딘
• 아이, 로봇 - 나무위키

AI SF 문학 읽기는 인공지능과 휴머노이드를 다룬 SF 문학을 하루 한 편씩 소개합니다. #AISF문학읽기 #인공지능 #휴머노이드 #SF문학 #로봇3원칙 #양전자두뇌 #수전캘빈 #인공지능안전 #휴머노이드로봇규제 KIMKJ.COM