본 [심리철학] 항목은 교수님께 동의를 얻고 2020년 2학기 서울대학교 ‘심리철학’ 강의를 바탕으로 작성되었음을 밝힌다. 내용 흐름은 수업과 같은 순서를 따르고 있으나 수업 자료를 최대한 풀어 쓰려 노력했다. 본 글에는 틀린 내용이 있을 수 있음을 밝히며, 그에 대한 책임은 나에게 있다. 사전 문의 없이 무단으로 복제, 배포하는 행위는 금한다.

---

마음에 관한 기계 기능주의의 입장에 따르면
; 마음은 적절하게 복잡한 튜링 기계
; 마음 상태는 본질적으로 계산 과정

어느 정도로 복잡한 튜링 기계가 마음의 기준으로 적합한가에 대해 튜링이 제시한 기준
; “튜링 테스트”
; 기계와 대화를 함으로써 우리가 그것이 기계인지 사람인지 구별할 수 없다면 지능이 있는 것으로 판단해야 한다
; 인간만이 마음을 가지는 것이 아니라, 어떤 물리적 시스템이 튜링 기계를 실현하기만 하면 그것이 디지털 컴퓨터라도 마음을 가질 수 있음을 함축한다
; 튜링테스트를 통과하면, 기계도 마음 상태를 가질 수 있다
; 모방게임을 변형 > 남자가 질문자를 속일 수 있는 정도만큼 기계가 질문자를 속일 수 있다면, 기계도 남자만큼의 지적 능력을 가진다고 봐야 한다
; 이때 질문자와의 대화는 특정 주제가 아닌 모든 주제를 다 포함할 수 있다

튜링 테스트는 마음의 기준으로 적합한가?
• 지나치게 강한 것 아닌가?
; 어린아이들 같은 경우 속이는 데 성공하지 못할 수도 있지만, 당연히 마음을 가지고 있다
; 튜링 테스트는 언어 사용을 전제하고 있지만, 일부 동물은 마음을 가지고 있다고 볼 수 있다
; 튜링 테스트는 너무 강하거나, 너무 협소하다(정신의 여러 측면 중 인지적 측면에만 초점을 맞춘다)
; 테스트를 통과하지 못하더라도 마음을 가지지 않는다고 볼 이유는 없다
; 테스트 통과는 마음의 필요조건이 아니다
• 충분조건은 될 수 있는가?
; 튜링 테스트는 오직 입출력만을 고려한다, 입출력이 동일하다면 동일한 심리적 지위를 가진다
; 이는 기능주의보다 행동주의에 가까우며 그런 면에서 지나치게 약하다
; 튜링 테스트를 통과한다고 해서 진정한 의미의 지능을 가진다고 볼 수는 없다
=> 그러나 튜링테스트 자체가 완전히 부적합한 테스트라는 것은 아님

복잡하고 세련된 기계가 튜링 테스트를 통과했다면 기계가 마음을 가진다고 봐도 되는가?
; 존 설의 중국어 방 논증
; 아무리 그렇다 하더라도 기계는 절대로 마음을 가질 수 없다

강한 AI vs 약한 AI
; 설은 인공지능 연구의 궁극적 목표에 따라 강한 인공지능과 약한 인공지능을 구분한다
; 강한 AI에 따르면 적절한 프로그램과 적절한 입출력을 가진 어떠한 물리적 시스템은 인간이 마음을 갖는다는 것과 정확히 같은 의미에서 마음을 가진다(기계기능주의/계산주의가 함축하는 주장, 인간과 동등한 정도의 마음 능력을 가지는 인공지능을 개발하는 게 목표)
; 약한 AI에 따르면 컴퓨터의 계산 과정은 인간 인지에 대한 시뮬레이션일 뿐 그 자체가 인지적 과정일 수는 없다(컴퓨터 자체가 인간과 같은 정도의 마음 능력을 가지고 있다고는 주장하지 않음)
; 설은 약한 AI를 지지하며, 그의 중국어 방 논증은 강한 AI에 대한 반박이다

중국어 방 논증
; 방에 있는 사람은 중국어를 전혀 이해하지 못한 채로, 방으로 들어오는 질문에 대해 규칙책(모국어로 된 구문론적인 규칙책)을 찾아서 답변을 출력한다
; 방 밖에 있는 사람들에게는 방 안에 있는 사람이 마치 중국어를 이해하고 질문에 답하는 것처럼 보일 수 있다
; 그러나 명백히 방 안에서 기호를 조작하는 당사자는 중국어를 이해하지 못한다
; 따라서 어떠한 디지털 컴퓨터도 단순히 프로그램을 수행함으로써 중국어를 이해할 수는 없다 (어떤 디지털 컴퓨터도 단순히 어떤 프로그램을 수행함으로써 중국어 방의 조작자가 이해하지 않은 것을 이해할 수는 없다)

논증으로 구성하면,
P1. 중국어 방 안에 있는 사람은 단순한 문자조작으로 중국어를 이해할 수 없다
P2. 중국어 방 안에 있는 사람이 단순한 문자조작으로 중국어를 이해할 수 없다면, 디지털 컴퓨터 역시 중국어를 이해할 수 없다
C. 따라서 디지털 컴퓨터는 중국어를 이해할 수 없다

P2는 구문론과 의미론의 구분과 관련된다
; 중국어 방은 기호만을 조작하는 디지털 컴퓨터의 프로그램을 시뮬레이션한다
; 디지털 컴퓨터의 프로그램은 본질적으로 구문론적으로 정의되기 때문에, 컴퓨터의 정보처리방식은 중국어 방에서 일어나는 일과 같다
; 중국어 방에 있는 사람이 구문론적으로 정의된 프로그램(규칙책)을 그대로 수행하고 있다고 생각할 수 있다
; 구문론적 규칙에 따라 입력에 대해 출력을 내놓은 디지털 컴퓨터는 중국어를 이해할 수 없다
; 컴퓨터가 구문론적 기계인 한, 컴퓨터는 중국어를 이해할 수 없다
(*구문론은 언어나 기호의 형태/문법에만 관련된 측면을, 의미론은 언어적 표현이나 기호의 의미, 기호가 세계와 관련된 측면을 뜻한다)

∴ 설은 1. 인간의 마음은 의미론적 측면을 가진다는 것, 2. 구문론 자체만으로는 절대로 의미가 발생될 수 없다는 것을 지적하고자 하는 것이다
; 컴퓨터 프로그램은 구문론적이지만, 마음은 구문론 이상의 것이다
; 마음 상태를 가진다는 것은 형식적인 기호 뭉텅이를 가지는 것 이상의 것이다, 그것은 기호들에 덧붙여진 의미와 관련된다
; 디지털 컴퓨터는 그것들이 컴퓨터인 한 정의에 의해서 구문론만을 가진다

다시 구성하면,
P1. 디지털 프로그램은 구문론적이다
P2. 마음은 의미론적 내용을 가진다
P3. 구문론은 의미론에 충분하지 않다(중국어 방 사고실험을 통해 보이는 바)
C. 따라서 디지털 프로그램은 마음에 충분하지 않다

이때 “마음은 의미론적 내용을 갖는다”는 것은
; 의미나 내용을 가지는 지향적 상태를 뜻한다
; 아무리 세련된 컴퓨터라도 이는 사람의 지향적인 마음 상태를 가질 수 없다, 인간 마음 이외에 다른 것들은 원래적 지향성을 가질 수 없다
; 언어가 가지는 지향성은 마음의 지향성에 의해 설명되어야 한다는 점에서 원래의 지향성이 아닌 파생적 지향성이다
; 강한 AI에 따르면 디지털 컴퓨터는 인간과 같은 의미에서 마음을 가진다고 주장, 즉 원래의 지향성(진정한 지향성)을 가진다
; 설은 중국어 방 논증을 통해 중국어 방은 지향적 상태를 가지지 않는다는 것을 보이고자 한다
; 컴퓨터가 갖는 것으로 생각되는 지향성은 그것을 프로그램하는 사람과 사용하는 사람의 마음, 즉 입력하는 사람과 출력을 해석하는 사람의 마음 속에만 있는 것이다(파생적 지향성)

중국어 방 논증에 대한 반론

• 시스템 반론
; 중국어 방 안의 사람은 중국어를 이해할 수 없는 것이 맞으나, 사람-디지털컴퓨터와의 유비가 잘못됐다
; 사람은 이해를 못하지만 방 전체는 중국어를 이해한다, 이때 사람은 전체 컴퓨터의 중앙처리장치 같은 것이다
; 부분이 이해를 못한다고 전체도 이해를 못한다고 말하면 결합의 오류를 범하는 것이다

설의 답변
; 여전히 시스템 전체도 이해하지 못한다.
; 사람이 방에 있는 모든 것을 외워서 내면화시키고, 방에서 나왔다고 상상해 보자. 이때 사람 자체가 전체 시스템이다
; 이 경우에도 사람은 중국어를 전혀 이해하지 못하며, 시스템도 그러하다
; 설은 ‘구문론에서 의미론으로 이행하는 방법은 없다’라는 주장만을 계속 하는 것처럼 보이기도 함

• 로봇 반론
; 시스템 반론은 중국어 방 논증을 반대한다면, 로봇 반론은 ‘디지털컴퓨터 자체는 의미를 이해할 수 없다’라는 설의 결론을 받아들인다
; 그렇다고 해서 설의 논증이 모든 기계에 적용되는 것은 아님을 지적하며, 언어를 이해할 수 있는 기계로서 로봇을 제시한다
; 로봇 안에 컴퓨터를 집어넣어 컴퓨터가 로봇 뇌의 역할을 하고, 몸이 있는 로봇이 세계와 인과적으로 상호작용할 수 있다면?
; 로봇이 세계와 상호작용한다면 로봇은 기호와 의미를 연결지어 의미를 획득하므로 결국 언어를 이해할 수 있다는 주장이다
; 기호는 대상과의 상호작용을 통해 그 의미를 획득할 수 있음에 기초한 반론

설의 답변
; ‘그것이 기계인 한, 구문론으로부터 절대 의미론이 발생할 수 없다’는 입장을 고수
; 내가 두뇌 안의 컴퓨터라고 가정하면, 결국 그때도 내가 하는 일은 기호들을 처리하는 것밖에 없다
; 내가 알고 있는 것은 기호뿐이고, 기호가 어디서 왔는지, 이것이 뭘 표상하는지 등은 전혀 알지 못한다
; 기호와 대상 사이의 인과관계가 있다 하더라도 컴퓨터는 그 기호가 그 대상과 연결되는지는 알지 못한다

• 시스템 반론과 로봇 반론을 합치기
; 로봇 전체는 의미를 이해하는가?
; 설은 기계는 절대로 의미론적 특성, 지향성을 가질 수 없다고 주장한다

그럼 설은 마음이 어떻게 지향성을 가지게 된다고, 의미를 가지게 된다고 설명하는가?
; 그는 오직 인간과 같은 종류의 물리적 체계만 지향성을 가진다고 주장한다
; 사람이 생물학적 두뇌를 가지는 유기체이기 때문이다
; 그 생물학적 두뇌로 말미암아 의미라는 것이 발생한다(동일론적, 물리주의적 입장)
; 구체적으로 생물학적 두뇌는 어떻게 계산적인 프로그램과는 다르게 의미를 가지게 되는지는 설명하지 않는다
; 그러나 어쨌든 프로그램으로부터는 마음을 가질 수 없다