필자는 '인공지능의 시대, 인간을 다시 묻다'(동아시아, 2017)의 저자입니다. 책 출간 이후 '서강대학원 신문' 143호에 청탁을 받아 기고를 했습니다(2017년 12월 4일자).

스팀잇에 양질의 콘텐츠가 많아져야 한다는 생각과, 블록체인에 봉인하기 위해 포스팅합니다. 비교적 긴 글이니 저장해서 보시고, 리스팀, 추천, 팔로, 소개도 부탁드립니다.^^

기억과 불멸 사이 — 인공지능의 기억, 인간의 기억

오시이 마모루 감독의 애니메이션 영화 "공각기동대, Ghost in the Shell"에는 자아의 정체성identity에 대한 흥미로운 통찰이 나온다. 주인공 쿠사나기 소령은 상당히 철학적인 유명한 화두를 던진다. “인간이 인간으로 살기 위해 많은 부품이 필요하듯이, 자신이 자신답게 살려면 아주 많은 것이 필요하지. 타인을 대하는 얼굴, 자연스러운 목소리, 눈뜰 때 응시하는 손, 어린 시절 기억, 미래의 예감. 그것만이 아냐. 전뇌(電腦)가 접속할 정보와 네트워크. 그 모든 것이 나의 일부이며 나라는 의식을 낳고 동시에 계속해서… 나를 어떤 한계로 제약하지.” 나는 이 대사를 출발점으로 삼아 인공지능의 시대에서 기억의 자리를 살펴보려 한다. 이 글은 최근에 출간한 "인공지능의 시대, 인간을 다시 묻다"에서 다뤘던 주제 하나를 풀어 보완하고 확장한 것이다.

정체성 또는 동일성과 관련해서 ‘테세우스의 역설’이라는 오래된 이야기가 있다. 고대 영웅 테세우스가 탔던 배는 굉장히 오랜 기간 보존되었는데, 낡은 부분을 교체하다 보니 어느새 모든 부분이 교체된 배가 되었다는 것이다. 그렇다면 그 배는 동일성을 유지한 걸까 아닐까? 이 역설이 문제가 되는 건 우리의 몸을 이루는 기관들도 대부분 시간이 지나면서 바뀌기 때문이다. 심장, 뇌, 눈을 이루는 세포를 제외하면, 가령 가장 오래 유지되는 뼈도 10년이면 완전히 바뀌는데, 나의 정체성은 어떻게 유지된다고 할 수 있을까? 아장아장 기어 다니던 나와 지금의 나가 과연 같다고 할 수 있을까? 이 지점에서 우리는 그 근거를 기억에서 찾곤 한다. 비록 몸은 바뀔지라도 기억의 동일성이 우리를 똑같은 존재로 보존해 준다는 것이다. 앞서 본 쿠사나기의 말은 이 점을 잘 보여준다.

사실 기억은 둘로 구별해볼 수 있다. 하나는 ‘나의 내적 기억’이고, 다른 하나는 ‘외부 기억’이다. 쿠사나기는 이 두 종류의 기억과 그 기억이 이루는 네트워크가 ‘나’라고 말한다. 그런데 이러한 기억의 문제는 정신 차리고 잘 살펴야 한다. 자신의 내적 기억만을 기억으로 간주한다면 우리는 금세 난관에 봉착하게 되니 말이다. 인간의 기억은 부단히 망각되고 왜곡되고 편집되고 변형되고 갱신된다. 따라서 본성상 변하게 마련인 기억이 자기 정체성의 기초가 되기는 어렵다. 그렇다면 주목할 것은 외부 기억일 것이다. 타인의 증언을 포함한 외부 기억과 관계가 나를 확인해주어야 나는 나일 수 있다. 내가 분명히 기억한다고 믿는 걸 남들 모두가 부정한다면, 나의 기억이 진짜인지 의심이 생길 수밖에 없다.

이제 내적 기억과 외부 기억을 비교·검토해 보자. 나는 ‘내적 기억’이란 용어 대신 ‘인간 기억’이라는 말을, ‘외부 기억’이라는 포괄적 용어 대신 컴퓨터 메모리 같은 걸 가리키기 위해 ‘외장 기억’이라는 말을 쓸 것이다. 외장 기억은 USB나 SD 메모리, 하드디스크, SSD 같은 유형을 말한다. 그런데 이때 외장 기억과 인간 기억은 과연 ‘기억’이라는 같은 유(類) 아래에 있는 걸까? 그 둘은 기억이라는 명칭만 공유할 뿐 본성은 전혀 다른 게 아닐까? 최소한 ‘입력(코드화), 보존, 출력(해독)’이라는 과정만 보더라도 외장 기억과 인간 기억은 너무도 다르다.

아마도 외장 기억을 인간 기억의 유비로서 ‘기억’이라고 지칭한 것부터가 문제의 시작인 것 같다. 이미 2500년 전에 플라톤은 문자를 외장 기억으로 여기면서 비판한 바 있다. 외장기억이 인간의 기억 능력을 저하시킬 것이라는 이유에서이다. 그러나 실은 인간 기억을 보호하고 도와주는 것이 바로 외장 기억이다. 오히려 인간 기억은 변화무쌍하고 휘발성도 강하다. 인간 기억이 왜 이런 특성을 지니게 되었는지는 진화의 역사만이 알려줄 수 있으리라.

진화의 역사를 살펴보면, 기억은 본성상 현재가 과거를 포함한다. 현재에 과거가 다 담겨 있다는 뜻이다. 하지만 인간 기억의 경우 과거가 현재에 끊임없이 삼투되면서 존속하는 반면, 외장 기억에서는 현재가 과거를 완전히 덮어쓰고 대체한다. 인간 기억은 회상이라는 심리 활동을 통해 현재로 소환되며, 이 과정에서 기억 내용이 변한다. 반면 외장 기억은 내용이 저장될 때 따른 규칙을 따라 역순으로 해독된다. 입력과 출력 사이의 내용은 똑같이 유지된다. 이는 마치 도서관과도 같다. 서가에 꽂아놓았던 책을 그대로 꺼내는 것이다. 물론 저장 매체가 훼손되면 내용이 손실된다. 망각은 외장 기억에서는 치명적이지만, 인간 기억에서는 자연스러운 과정이다.

한편, "특이점이 온다"(2005)의 저자이자 구글의 엔지니어링 이사인 레이 커즈와일은 2030년이면 인간의 의식을 컴퓨터에 업로드하는 것이 가능해지고 2045년경이면 인간 뇌와 결합한 인공지능이 모든 인간의 지능을 합친 것보다 강력해질 것이란 구체적 예측을 펼친 것으로 유명하다. 그는 이렇게 주장한다. “타고난 생물학적 사고 장치와 우리가 만들어낸 비생물학적 지능이 융합됨으로써 인간의 지능은 엄청나게 확장된다. 학습은 일단 온라인을 통해 이뤄지겠으나, 뇌 자체를 온라인에 접속할 수 있게 되면 거추장스런 과정 없이 곧바로 새로운 지식과 기술을 다운로드받게 될 것이다. (...) 지구 상의, 그리고 지구를 둘러싼 지능은 줄곧 기하급수적 확장을 거듭하여 결국에는 지능적 연산을 뒷받침할 물질과 에너지가 모자라는 순간에 다다를 것이다. 그렇게 우리 은하의 에너지를 모두 소모하고 나면 인간 문명의 지능은 이론적으로 가능한 최고의 속도로 더 먼 우주를 향해 나아갈 것이다.”(한글 번역, 413쪽) 커즈와일의 이런 주장은 중요한 전제를 깔고 있다. 바로 인간의 기억과 컴퓨터의 기억이 같은 본성을 가졌다는 전제 말이다.

커즈와일의 주장은 새로운 건 아니다. 이미 더글러스 호프스태터는 "괴델, 에셔, 바흐"(1979)에서 뇌와 컴퓨터, 마음과 프로그램의 동일성을 주장한 바 있으며, 최근에는 역사학자 유발 하라리가 "호모 데우스"(2015)에서 같은 주장을 했다. 이들의 공통된 논점은 이렇게 요약할 수 있다. ‘인간의 뇌는 자연에 존재하는 다른 물질과 다를 바 없는 물리적 하드웨어다. 그 안에는 소프트웨어나 프로그램에 해당하는 뭔가가 작동하고 있다. 그게 마음이다. 하드웨어가 똑같이 물리의 지배를 받는다면 그 성격에 관계없이 소프트웨어의 구현이 가능하다. 따라서 실리콘 기반인 컴퓨터를 통해 탄소 기반인 뇌 안에 든 마음의 구현도 가능하다.’ 이를 논거로 삼으면 인간을 닮은(human-like) 인공지능의 출현이 적어도 논리적으로는 가능해진다.

이 주장은 논리적으로 흠잡을 데 없어 보이지만 큰 허점이 숨어 있다. 인간이 마음을 갖고 있다는 객관적인 사실은 확인 가능하다. 하지만 어떤 과정을 거쳐 마음이 생겨났는지 또 어떻게 작동하는지에 대해 우리가 아는 건 거의 없다. 그저 38억~40억 년에 걸친 기나긴 생명의 진화 과정 중에서 생겨났다는 것만 알 뿐이다. 논리적으로 구현 가능하다는 것만 가지고, 생성 원리나 작동 프로세스를 모르면서 똑같이 만들 수 있다고 할 수 있을까? 논리적으로 가능하다는 것과 기술적, 공학적으로 구현할 수 있다는 건 완전히 다른 문제이다. 논리적으로 가능할지는 몰라도 실제 엄청난 시간이 걸릴 테니까. 박물관에 가면 아름다운 고려청자를 볼 수 있다. 하지만 우리는 아직도 고려청자를 만들지 못한다. 물론 언젠가는 똑같이 구현해낼지도 모른다. 가까운 시일에 그런 일이 일어날지 확신하지 못할 뿐. 인공지능의 경우에도 사정은 다르지 않다.

아니, 사정이 훨씬 나쁘다고 해야 옳다. 인공지능이 인간을 닮은 지능을 갖기 위해 필요한 조건을 정확히 충족시킬 수 있는 논리 또는 알고리즘이 아직 존재하지 않기 때문이다. 인간형 인공지능이 실현되려면 두 층이 동시에 있어야 한다. 정보의 입력과 출력을 통해 특정 활동 내지 기능이 이뤄지는 층과 그런 활동이 고장 났을 때 이를 스스로 자각하는 층이 그것이다. 마음의 특징은 이 2개의 서로 다른 층이 하나의 통일체로 작동한다는 데 있다. 생물 또는 마음은 자기가 고장 난 것을 스스로 고치는 자가수선(自家修繕)이 가능하다. 내가 보기에 그게 가능한 것은 생물뿐이고 컴퓨터는 불가능하다. 버그를 잡는 디버깅 프로그램의 예를 드는 사람이 있는데, 디버깅 프로그램도 버그에 걸리면 사람이 개입하지 않는 한 고칠 방도가 없다. 결국 가장 상층(meta-layer)에서는 인간이 개입해야만 한다.

생명체만이 가진 지능의 이런 특징은 진화의 산물이다. 문제가 발견됐을 때 스스로 문제를 자각해 빠르고 정확하게 보정(補整)하는 개체가 생존에 유리했기 때문이다. 반면 개체군 차원에서는 ‘강자가 살아남는 것’이 아니라 ‘살아남는 것이 강자’라는 지혜의 터득이 중요해진다. 최강이 되기 위해 애쓰는 것보다 변화무쌍한 환경에서 적응할 수 있는 다양성을 최대화하는 것이 진화에서 더 유리하기 때문이다. 지능은 그런 진화 전략의 연장선상에서 생성되었다. 그래서 인공지능과 차별되는 마음의 능력이란 곧 자기 자신에 대한 내적 성찰 능력이라고도 요약할 수 있다.

많은 사람은 지금도 컴퓨터의 하드웨어와 소프트웨어가 인간 몸과 마음과 비슷한 방식으로 작동한다고 잘못 알고 있다. 하지만 이런 이해는 이미 폐기됐다. 뇌과학 연구를 통해 컴퓨터와 뇌의 작동 방식이 전혀 다르다는 것이 명백해졌다. 알파고에 적용된 ‘신경망 학습’이니 ‘심층학습’이니 하는 것도 유비적 표현일 뿐, 인간의 신경망과 인공지능의 학습 방식은 전혀 다르다. 신경망 학습마저도 통계학적이며, 그 결과물인 인공지능은 결정론적 계산기이다. 무수한 사칙연산 과정에서 중간에 하나만 틀려도 답이 안 나오는 수학 문제를 생각하면 된다. 그래서 컴퓨터의 메모리는 중간에 바뀌지 않아야 하며, 고정성과 안정성이 제일 중요하다.

반면 인간의 신경망은 손실과 추가의 과정이다. 앞서 말했듯이 인간의 기억은 계속 변한다. 자, 인간의 기억을 컴퓨터에 업로드하는 게 기술적으로 가능할 수 있다고 치자. 하지만 그 순간부터 기억은 정지한다. 컴퓨터 메모리는 고정불변해야 하기 때문이다. 마치 폴라로이드 카메라로 그 순간을 포착한 사진을 찍어놓은 것과 같다. 하지만 현실 속 인간의 기억은 늘 변하기 때문에 시간이 지나고 나면 컴퓨터의 기억과 현실 속 나의 기억은 전혀 다른 게 될 수밖에 없다. 내 안에선 변하는데 저장된 그곳에선 멈춰 있기 때문이다. 현실의 나는 늙어 가는데 사진 속 나는 예전 모습 그대로인 것과 같다.

이번엔 반대로 리들리 스콧 감독의 영화 <블레이드 러너> 두 편에 나오는 것처럼, 인간의 신경망과 똑같이 작동하는 레플리컨트(복제인간) 제조 기술을 발명했다고 치자. 내 기억을 열 명의 레플리컨트에 이식하면 현실의 내가 지닌 기억과 레플리컨트들이 지닌 기억이 시간이 지난 뒤에도 동일하다고 할 수 있을까? 나는 나대로, 레플리컨트는 레플리컨트대로 열한 명 모두 기억이 바뀌어 갈 텐데?

인간과 컴퓨터에게 ‘기억’이라는 같은 낱말은 전혀 다른 뜻을 지닌다는 것을 확인했다. 본래 유비(analogy, 비유)는 알아듣기 쉽게 하려고 사용하는 수단이지만, 더 큰 오해로 이끌고 가는 경우가 많다. 유비는 ‘A : B = C : D’와 같은 방식으로 생각하는 방식이다. 가령 ‘뇌 : 컴퓨터 = 마음 : 인공지능’ 같은 식이다. 하지만 여러 측면에서 인간과 컴퓨터가 다를 수 있다는 점을 간과한 채, 계속 유비적 용어를 쓴다면 오해는 커질 수밖에 없으리라. 잘못된 유비의 예로는 기계학습, 신경망 학습, 진화 알고리즘 같은 것들을 들 수 있다. 사태를 정확히 파악하려면 기억, 학습, 진화, 알고리즘 각각에 대한 정확한 이해가 필요하다. 다만 어렵다는 이유로 기피하기 때문에 유비에 빠지는 것일 뿐이다.

인간은 태곳적부터 불멸을 꿈꿔왔다. 하지만 실제로 바랐던 건 죽지 않는 것이 아니라 계속되는 젊음과 건강이었으리라. 자기 기억이 화석처럼 기록되어 남기를 바라는 사람은 없다. 어차피 우리 삶의 끝에는 죽음이 있다. 다행인 건 우리가 죽으면 이미 아무 문제도 없고 살아있는 한 죽은 게 아니라는 사실이다. 사정이 이렇다면, 삶의 순간마다 성실하게 임하는 방도 말고 다른 게 있을까?