'중국어 방' 사고실험: 우리는 이해하는가?

중국어 방 논증(Chinese room argument)을 아시나요? 1980년 미국 철학자 존 설(John Searle)이 튜링 테스트로는 인공지능 여부를 판정할 수 없다는 뜻에서 고안한 사고실험입니다.
​
레이 커즈와일은 저서 <마음의 탄생>에서 이 사고실험을 설명하고 논박하는데, 그 내용이 흥미로워서 이곳에 옮겨둡니다.

 

---

 

존 설은 '중국어 방'이라고 하는 유명한 생각실험을 제시한다. [특이점이 온다]에서 자세하게 설명했지만 여기서 간단하게 설명하자면, 이 방 안에는 중국어로 쓰인 문제를 받고 거기에 답을 하는 사람이 있다. 하지만 그는 정교하게 만들어진 규칙에 따라 글을 읽고 대답을 할 뿐, 중국어를 진정으로 이해하지는 못한다. 겉으로는 중국어로 정확하게 대답을 하는 것처럼 보이지만, 실제로는 언어를 전혀 '의식'하지 못하는 것이다. (다시 말해 질문과 대답을 전혀 이해하지 못한다.)

 

설은 컴퓨터가 바로 이런 사람과 같다고 말한다. 중국어 방에 있는 사람처럼 컴퓨터는 중국어로 된 문제에 대답을 할 수 있지만(중국어 튜링테스트에 통과한다는 뜻), 언어를 전혀 이해하지 못하며, 자신이 무슨 일을 하고 있는지도 의식하지 못한다.

이러한 결론에는 몇 가지 철학적 속임수가 들어있다. 그중 하나는 이 생각실험에 등장하는 사람은 컴퓨터의 여러 부품 중 CPU에 해당할 뿐이라는 것이다. CPU는 자신이 무슨 일을 하고 있는지 진정으로 이해하지 못할 수 있지만, CPU는 컴퓨터 구조에서 일부에 지나지 않는다. 하지만 이 사람은 '규칙책rulebook'을 가지고 있다. 결국 이 사람과 규칙책으로 이루어진 '전체 시스템'은 중국어를 이해하고 있는 것이다. 그렇지 않으면 중국어로 된 문제를 읽고 그에 대한 대답을 어떻게 만들어낼 수 있겠는가? 이 생각실험에 대한 설의 가정은 잘못된 것이다.

 

설의 주장은 오늘날 컴퓨터 프로그램에서 진정한 이해와 의식을 추론해내기 어렵다는 것이다. 하지만 이 주장의 문제는, 이러한 추론을 인간의 뇌에도 그대로 적용할 수 있다는 것이다. 신피질의 패턴인식기들은―각각의 뉴런과 신경요소들은―어떠한 알고리즘에 따라 작동할 뿐이다. (어쨌든 이것은 자연법칙을 따르는 분자 메커니즘과 똑같다.) 어떤 알고리즘을 따라 작동하는 것이 진정으로 이해하고 의식하는 것이 아니라고 결론 내린다면, 인간의 뇌도 마찬가지로 아무것도 이해하거나 의식하지 못한다고 결론 내려야 한다.

존 설의 중국어 방 주장은 컴퓨터가 '기호'를 조작하기만 할 뿐 기호의 의미는 이해하지 못한다는 것이지만, 이는 우리 뇌가 신경간 연결과 시냅스 세기를 조작하기만 할 뿐 그 의미는 이해하지 못한다는 말과 똑같다. 결국 인간의 뇌는 진정으로 어떤 것도 이해하지 못한다는 주장으로 이어진다.