티스토리 뷰
SF 3대 거장 중 한 명인 아이작 아시모프(1920~1992)의 소설.
그 유명한 “로봇공학의 3원칙”이 바로 이 소설집으로부터 나왔다. 로봇 3원칙의 첫걸음, 로봇 3원칙의 입문서, 시작하는 로봇 3원칙이라고 할 수 있겠다.
로봇공학의 3원칙
제1원칙 : 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙 : 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙 : 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.
6쪽, ‘아이, 로봇’(I, ROBOT), 아이작 아시모프, 김옥수 옮김, 우리교육, 1950, 1977 / 2008, 2011
아시모프는 나중에 ‘로봇공학의 0원칙’이라는 것을 추가했다. ‘로봇은 인류가 위험에 처하도록 해서는 안 된다.’는 것인데, 이는 인간 개개인이 아닌 집단으로서 인류 전체의 안전에 대해 로봇에게 경각심을 심어 준 것이다. 과학기술이 발달하면서 인간에게 직접적으로는 위해가 가지 않는 행동이더라도 종국에는 인류에게 위협이 될 수도 있기 때문이다. 예를 들어 로봇들에게 아마존의 밀림을 모두 개간하라는 명령을 내린다면 당장 누군가의 생명을 위태롭게 하지는 않겠지만 인류의 생존 환경에는 큰 악영향을 미칠 수도 있다. 그래서 이 0원칙은 다른 3원칙보다도 상위에 있는 가장 중요한 법칙으로 새로이 자리 잡게 되었다.
374쪽, 작품 해설 : 로봇 우주의 창조자 아시모프와 ≪아이, 로봇≫, ‘아이, 로봇’, 박상준, 우리교육, 2008, 2011
지난 50년 동안, 로봇공학은 비약적으로 발전했다. 로봇 덕분에 인류는 초공간 이동 여행을 할 수 있게 되었으며 큰 갈등이 없는 안녕을 누리고 있다. 그 배경에는 주식회사 U.S.로보틱스와 뛰어난 로봇심리학자 수잔 캘빈 박사(1982~)가 있었다. 여든이 넘은 수잔 캘빈은 50년의 경력을 끝으로 이제 은퇴한다. 이 책은 수잔 캘빈이 평생에 걸쳐 사례를 접한, 개성 넘치는 로봇들의 이야기를 한데 묶은 것이다. (단편들을 액자구성으로 모아 장편을 만든 것.)
로봇에게 있어 3원칙은 그 무엇보다도 무겁게 작용한다. 3원칙을 순탄하게 지킬 수 없는 상황에 처했을 때, 딜레마에 빠졌을 때, 로봇은 정신병에 걸린다. 인간이 예측 못했던 오작동을 일으키는 것이다. 로봇심리학자 수잔 캘빈 박사는 주의 깊게 관찰하고 진단하고 해결한다. (모든 단편에서 활약하는 것은 아니지만.) 그리고 이로써 A. I.가 계속해서 개량된 듯하다.
로봇들이 개성 좀 취득했다고 다 망가지는 것은 아니다. 3원칙에 절대적으로 묶여있는 로봇들이 다양한 상황 및 50년간 급격하게 발전한 기술 하에서 어디까지 갈 수 있었을까? 흥미진진하게 따라가 볼 수 있다. (영화 쪽은 로봇이나 A. I.를 곧잘 위험하게 묘사하곤 하지만, 소설 쪽은 느긋하게 사고실험思考實驗을 행하기 마련. 돌발 상황이 아주 없을 수는 없을 것이다. 수잔 캘빈 박사는 로봇의 프랑켄슈타인 콤플렉스를 날카롭게 경계한다. 그러나 아이작 아시모프는 어디까지나 긍정적이고 낙천적으로 묘사하고 있다.)
큐티가 무거운 머리를 천천히 흔들었다.
“이해를 못하는군요. 저들은 로봇입니다. 그 말은 저들이 이성적인 존재라는 뜻이지요. 저들은 진정한 주인님이 누구인지 깨닫게 되었고, 이제 나는 저들에게 진실을 전달하고 있습니다. 모든 로봇이 마찬가지입니다. 저들은 나를 예언자라고 부릅니다.”
큐티는 전송 장치를 향해 머리를 숙이며 겸손하게 말했다.
“저는 아무 가치도 없지만 그래도 조금이나마…….”
도노반은 호흡을 가다듬고 나서 소리쳤다.
“그러셔? 정말 대단하군! 정말 멋있어! 하지만 한 가지 알려 줄 게 있어, 이 못생긴 쇳덩어리야. 네가 말하는 주인님 같은 건 어디에도 없고, 예언자도 없어. 명령을 내릴 권한이 누구에게 있는지도 분명해. 알겠어? 자, 빨리 나가!”
잔뜩 화가 난 목소리였다. 큐티는 차분하게 대답했다.
“나는 주인님께만 복종합니다.”
97쪽, 큐티_생각하는 로봇, ‘아이, 로봇’, 아이작 아시모프, 김옥수 옮김, 우리교육, 1950, 1977 / 2008, 2011
“(생략) 우리 직원 한 명이 적당한 감마선에 순간적으로 노출되는 걸 감수하면서 작업하고 있으면 근처에 있던 로봇이 그 직원을 구하려고 달려드는 겁니다. 인체에 아무 해가 없는데도 말이죠. 감마선이 아주 약하면 로봇이 성공하겠죠. 그러면 로봇을 다 밖으로 내보내고 작업을 재개할 수 있습니다. 하지만 감마선이 강하면 직원에게 접근하기도 전에 로봇이 쓰러지고 맙니다. 감마선 때문에 양전자 두뇌가 파괴되니까요. 대체하기도 힘든 값비싼 로봇 한 대가 사라지는 거죠.
우리는 로봇들하고 논쟁을 벌였습니다. 그들은 인간이 감마선에 노출되면 죽을 위험이 있기 때문에, 30분 정도는 괜찮다는 이야기는 고려할 가치도 없다고 하더군요. 깜빡 잊고 30분을 넘길 수도 있고 자신들은 요행을 바랄 수 없다는 거죠. 그래서 그러면 로봇들 목숨이 위험하다고 이야기했습니다. 하지만 자신을 보호하는 건 제3원칙에 불과합니다. 인간의 안전을 도모하는 제1원칙이 우선이지요. 그들에게 명령도 내렸습니다. 무슨 일이 있더라도 감마선 근처에 접근하지 말라고 강하게 명령했습니다. 하지만 명령복종은 제2원칙에 불과합니다. 이번에도 인간의 안전을 도모하는 제1원칙이 우선이지요. 캘빈 박사님, 우리는 로봇 없이 작업을 하거나 제1원칙에 일정한 손질을 가해야 하는 상황에 처했습니다. 그래서 마침내 선택을 한 겁니다.”
(생략)
심리학자는 몹시 화가 난 얼굴로 보거트를 바라보았다.
“균형을 잃은 로봇이 존재해선 안 돼요. 지금 이곳엔 확실하게 균형을 잃은 네스터 한 대, 그럴 가능성을 지닌 로봇 열한 대, 그리고 균형을 잃게 생긴 정상 로봇 예순두 대가 있어요. 절대적으로 안전한 방법은 완벽하게 파괴하는 것밖에 없어요.”
200쪽, 227쪽, 네스터 10호_자존심 때문에 사라진 로봇, 상동
“맙소사!”
짧게 놀라는 소리였다.
“그러니 조심해. 우리가 파괴나 죽음과 관계된 내용을 입력해도 흥분하지 마. 브레인, 이번에는 그런 건 신경 안 써. 죽음에 관한 내용까지도 우리는 전혀 신경 쓰지 않을 거야. 그러니 그런 내용이 나타나면 동작을 멈추고 뱉어 내면 돼. 무슨 말인지 알겠지?”
“아, 그럼요. 맙소사, 인간의 죽음이라니! 아, 무서워!”
251쪽, 브레인_개구쟁이 천재, 상동
“(생략) 그런 행동은 그가 로봇이기 때문일 수도 있고, 아주 명예롭고 고귀한 인간이기 때문일 수도 있으니까요. 하지만 선생이 알아야 할 건 로봇하고 아주 훌륭한 인간은 잘 구분할 수 없다는 사실이에요.”
(생략)
로봇심리학자가 고개를 끄덕였다.
“(생략) 물론 난 로봇이 좋아요. 인간보다 훨씬 좋아하지요. 만일 로봇이 공직 생활을 해도 된다면 정말 훌륭한 공직자가 될 거예요. 로봇의 기본 원칙 때문에 인간에게 해를 끼칠 수 없고, 독재나 부정부패는 물론이고 멍청한 편견도 갖지 않을 테니까요. 임기를 훌륭하게 채운 다음에는 공직에서 물러나면 되는 거예요. 사람들이 불멸의 존재나 로봇이 자신들을 통치했다는 사실을 알고 상처를 받으면 안 되니까요. 가장 이상적인 시나리오라고 할 수 있죠.”
“선천적으로 두뇌가 우수하지 못해서 실패할 수 있다는 사실만 빼면 말입니다. 양전자 두뇌는 인간의 복잡한 두뇌를 결코 쫓아갈 수 없으니까요.”
“그 부분은 조언자가 있으면 되겠지요. 아무리 뛰어난 인간도 누군가의 도움은 받아야 하니까요.”
바이어리는 수잔 캘빈을 호기심 어린 눈빛으로 바라보았다.
(생략)
“그럼 잘 있어요, 바이어리 씨. 5년 후에 또 당신에게 투표할 수 있기를 바라요. 지역 조정자 선거에서 말예요.”
스테판 바이어리가 껄껄 웃었다.
“너무 무리한 요구인데요.”
308쪽, 326쪽, 327쪽, 바이어리_대도시 시장이 된 로봇, 상동
영화 ‘아이,로봇’(2004)은 원작소설과 많이 다르다. 우선 소설에 영화판의 사례 같은 내용 자체가 아예 없다. (아이작 아시모프는 무려 500여 권을 저술하고 지구를 떠난 사람이니 다른 책 어디쯤에 비슷한 내용이 있을지도 모르지만.) 다만 본 책 내의 “큐티_생각하는 로봇”과 “네스터 10호_자존심 때문에 사라진 로봇”에서 오마주처럼 가져간 장면은 있다. 하하, (내가 말해놓고도 이상하다.) 오마주라니. 이 책이 원작소설이건만.
영화의 알프레드 래닝 박사는 중요한 역할을 담당하지만, 소설에서는 이렇다 할 활약을 보이지 않는다. 그냥 깐깐하고 고지식한 양반.
소설의 수잔 캘빈 박사는 아주 까탈스럽고 로봇처럼 차가운 캐릭터를 가지고 있다. 3원칙에 대해서도 단호한 입장을 보인다. (소설 시작과 끝에 약간의 반전을 가미한 것 같은데, 국내판의 부제가 이 요소를 다소 망쳐놓은 것처럼 보이기도 한다.) 소설을 읽어보면 할리우드가 굉장히 보수적인 관점에서 영화화했음을 느낄 수 있다. (뭐, 십년 지나 2014년인 오늘날에도 할리우드는 여전히 보수적인 곳이라고 하더라. 남녀차별 심하고, 성소수자차별 심하고, 인종차별 심하고.)