이 게시물은 포스트휴먼 오디세이, 홍성욱 – (1)에서 정리한 휴머니즘 – 트랜스휴머니즘 – 포스트휴머니즘의 큰 흐름에 이어 두 가지 중요한 주제인 ‘사이버네틱스’와 ‘인공지능’을 별도로 정리하고 있다.

---

사이버네틱스

다음은 <포스트휴먼 오디세이>의 3장 <사이버네틱스가 인간을 새롭게 정의하다>와 9장 <성찰적인 사이버네틱스, 자기 생성 개념으로 이어지다>를 정리한 것이다.

Cybernetics – 생성과 성장, 쇠락

피츠는 생명현상을 물리학으로 설명하는 방식을 배워서 터득하는 과정에서, 일찌감치 인간의 뇌가 ‘논리 기계’일 수 있다는 생각을 했다. 인간의 심리현상의 근원에 가장 간단하고 더 쪼개질 수 없는 사이콘(psychon)이라는 기본 단위가 존재한다고 생각하며 이에 대해 연구하던 워런 맥컬럭에게 피츠는 수학적이고 논리적인 틀을 부여했다. 그들은 뇌의 가장 작은 신경 단위인 뉴런의 모델을 세우기 시작했고, <신경 작용에 내재한 개념에 대한 논리적 해석학>을 통해 뉴런의 작용이 0과 1의 정보의 전달로 이루어지는 2진법 논리회로라는 모델을 제시했다. 인간 두뇌의 뉴런 활동을 전기공학적으로 이해한 것이다. (p. 49-50)

존 폰 노이만은 에드백 컴퓨터를 설계했는데, 이는 뇌의 정신 작용이 전기회로로 이해되고 이를 토대로 컴퓨터가 설계된 것을 나타낸다. 이런 컴퓨터는 거꾸로 뇌를 이해하는 강력한 개념적 도구로 작용했다. (p. 51)

적기의 움직임을 미리 예측해 적기가 도달할 지점에 포를 쏘는 자동화기인 대공예측기(anti-aircraft predictor)를 연구하던 노버트 위너는 비행기에 탑승한 조종사가 마치 서보메커니즘(자동제어장치)처럼 움직이는 경향이 있다는 것을 발견했다. 당시 서보메커니즘은 음성피드백 회로를 가지는 장치로 이해되고 있었다. 위너의 이런 생각을 들은 생리학자 로젠블루스는 위너의 피드백 시스템이 보여주는 특성이 생물의 항상성과 비슷하다고 보았다. 둘은 공학에서 사용되던 피드백 회로를 이용해 항상성을 새롭게 해석했고, 음성 피드백이라는 개념을 사용해 인간과 동물, 기계의 행동 공통점을 분석한 논문을 발표했다. … 생명체의 움직임은 피드백에 의한 제어라는 기계적인 용어로 이해되기 시작했다. 이를 계기로 인간과 기계의 경계가 크게 허물어졌고 인간과 기계의 공통점과 차이점을 놓고 철학적 논쟁이 시작됐다. (p. 52-54)

위너는 피드백을 통한 제어라는 개념을 생리학, 심리학, 사회과학 등 인접 분야에까지 설파하기 시작했다. 1947년 위너는 자신의 핵심 개념과 이론을 ‘사이버네틱스’라는 단어로 집약했다. 위너는 공학에서 출발한 사이버네틱스의 핵심 개념을 인간과 사회 전반을 이해하는 개념으로 확장했다. (p. 56-57)

피츠는 맥컬럭, 제리 레트빈과 함께 개구리의 시각을 연구해서 개구리가 움직이는 것만을 먹이로 인지한다는 결과를 얻었다. 즉, 개구리는 바로 눈앞에 먹이가 있어도 그것이 움직이지 않으면 먹이로 인식하지 못한다는 것을 알게 된 것이다. 이는 뇌에서 일어나는 인지 작용이 논리회로의 작용과 같을 것이라는 피츠의 믿음과 상반된 것이었다. 뇌의 작용은 디지털이라기보다는 아날로그에 가깝고, 생각했던 것보다 훨씬 더 ‘지저분한’ 것으로 판명되었기 때문이다. … 사이버네틱스는 많은 이의 지적 흥미를 끌고 학계의 화제가 되었지만, 하나의 학문 분야로 정착하는 데는 실패했다. (p. 59-61)

사이버네틱스는 인간 뇌의 인지 작용을 전기공학적으로 이해하며 등장하여, 기계가 보여주는 움직임이 생물의 움직임과 비슷하다는 점에서 생물의 움직임을 기계적으로 분석했다. 생명체와 기계, 인간 모두가 ‘피드백을 통한 제어’라는 큰 개념으로 설명된다 주장했지만 개구리 실험을 통해 주장에 반대되는 근거가 나타났고, 사이버네틱스는 그렇게 쇠락하게 되었다.

Cybernetics – 2차 사이버네틱스로의 재탄생

마거릿 미드는 타성에 젖어가던 사이버네틱스 학회의 모습을 비판하고, 사이버네틱스의 방법론을 사이버네틱스 학회에도 적용해야 한다고 주장했다. 미드가 직면했던 딜레마는 다음과 같다.

엔지니어들은 보통 피드백 회로가 작동하는 대상을 그 외부에서 분석하며, 자신들의 분석이 대상에 대한 객관적인 지식이라고 생각한다(그림의 윗부분). 그런데 만약 (그림의 아랫부분처럼) 연구자가 또 다른 피드백 회로에 들어 있다면? 피드백 회로에 들어 있는 자신이 어떻게 다른 피드백 회로를 객관적으로 분석할 수 있을까? 대상을 분석하기 전에 자신이 속한 피드백 회로부터 분석해야 하지 않을까? 그런데 이를 분석하기 위해 사용하는 사이버네틱스의 방법이 또 다른 피드백 회로를 내포한 것이라면? … 사이버네틱스의 방법을 이용해 사이버네틱스를 분석하는 것은 무한대의 치명적인 악순환을 낳는 것처럼 보였다. (p. 149-150)

폰 푀르스터는 ‘자기 지시 체계’라는 개념을 고안해내고 학회를 조직했다. ‘자기 지시’라는 개념은 주로 언어나 논리학에서 역설을 지칭했는데, 그는 자기 지시의 역설이 우리가 뇌를 사용해 만든 뇌에 대한 이론이나 모델이 어떻게 참일 수 있는가 하는 문제와 직결된다고 생각했다. 그에 따르면 세상을 분석하는 ‘나’ 자신도 ‘나’의 분석 대상에 포함시켜야 했다. 이러한 성찰성은 자연과학에서는 대부분 생략되었는데, 폰 푀르스터는 부분과 전체의 관계를 다루는 사이버네틱스에서는 이를 생략할수 없다고 생각했다. 기존 사이버네틱스가 ‘관찰된 체계(observed system)’에 대한 사이버네틱스라면 푀르스터의 사이버네틱스는 ‘관찰하는 체계(observing system)’에 대한 사이버네틱스였다. 그는 1974년 자신의 사이버네틱스를 ‘2차 사이버네틱스’라고 명명했다. (p. 152-153)

폰 푀르스터는 관찰자의 개입 과정이 ‘우리가 실재(reality)라고 부르는 것’을 만들어내는 과정이라고 생각했다. 즉, 실재는 외부 세상에 독립적으로 존재하는 것이 아니라 우리의 관찰과 인식의 구성물이라는 것이었다. 따라서 이렇게 보면 인간 밖에 객관적으로 존재하는 세계에 대한 ‘진리’는 존재한다고 말하기 힘들었다. 내가 구성하는 실재와 다른 사람이 구성하는 실재가 꼭 같은 것이 아닐 수 있기 때문이다. 그렇다면 우리는 타인을 어떻게 이해할 수 있을까? 폰 푀르스터는 우리 모두가 ‘나’를 보는 타인을 통해 ‘나’와 세상을 보는 존재라고 생각했다. 세상에 대해 어느 정도 확실성을 갖는 것은 나와 다른 사람들 사이의 이런 관계망이 촘촘하게 얽혀 있기 때문이지, ‘나’의 감각이나 인식이 확고한 진리를 발견해서가 아니라는 것이다. 따라서 2차 사이버네틱스에서 실재는 다름 아닌 공동체가 된다. (p. 153-154)

움베르토 마투라나는 진화, 성장, 적응, 재생산 등은 생명의 한 속성일 뿐 생명의 본질이 아니라고 생각했다. 그는 움직이지 않는 파리를 먹이로 인식하지 못하는 개구리를 보고, 생명체는 생명체 외부에 어떤 목적을 가진 존재가 아니라고 확신했다. 생명체의 특성 중 하나는 그것을 이루는 구성 요소들이 끊임없이 상호작용을 하는 것인데 이런 상호작용은 외부에 어떤 기여를 하기 위해서가 아니라 생명이라는 자기 자신을 만들어내기 위해 이루어진다는 의미이다. 다시 말해 생명체 안에서 상호작용하는 모든 구성 요소는 생명이라는 자신을 지시하는 것이라고 할 수 있다. 외부 세상의 영향은 출력을 만들어내는 입력의 형태가 아니라, 생명체를 유지시키는 교란의 형태로 주어졌다. 생명은 입력을 알면 출력을 가늠할 수 있는 선형적인 기계가 아니었던 것이다. 나아가 그는 생명체의 인지가 외부 자극에 대한 수동적인 반응이 아니라, 생명체의 내부에서 환경에 대해 행하는 어떤 것이라는 생각에 도달했다. 그는 마침내 폰 푀르스터의 자기 지시성 개념을 넘어서 ‘자기 생성(autopoiesis)’ 개념을 만들어냈다. 생명에 대한 새로운 이해 방식인 자기 생성은 새로운 사이버네틱스를 만들어냈다. 2차 사이버네틱스에 따르면 인간은 다른 모든 생명체와 마찬가지로 자기 생성 체계이며, 인간의 인지는 세상에 대한 반영이 아니라 인간 주체가 적극적으로 만들어낸 것이 되었다. 이렇게 인간과 다른 생명체를 구별 짓던 경계는 허물어졌다. 2차 사이버네틱스는 인지과학, 심리학, 뇌과학, 인식론 등의 다양한 분야를 파고들었다. (p. 156-167)

---

인공지능

다음은 <포스트휴먼 오디세이>의 6장 <인공지능이 체스 세계 챔피언을 꺾다>와 12장 <인공지능, 격렬한 논쟁의 핵이 되다>를 정리한 것이다.

Artificial Intelligence – 기호 인공지능과 신경망 인공지능

존 매카시는 자기 복제를 할 수 있는 가상 기계인 오토마타에 대한 폰 노이만의 발표와 신경망 이론에 대한 맥컬럭의 발표를 듣고 ‘생각하는 기계’를 만드는 문제를 고민했다. 당시 오토마타에 대한 연구는 주로 사이버네틱스 그룹에 의해 이루어지고 있었고 그들은 인간과 기계의 유사성에 주목해 뇌와 비슷하게 작동하는, 사람처럼 생각하는 기계를 만들려고 했다. 그런데 매카시는 이런 접근 방법이 마음에 들지 않았다. 그는 사람이 어떻게 생각하는지 정확히 알 수 없다고 봤으며, 또한 ‘생각하는 기계’는 꼭 사람처럼 생각하지 않더라도 문제만 풀면 된다고 추론했다. 생물학적 혹은 구조적 유사성은 필요하지 않았고 기능만 같으면 됐던 것이다. 그는 ‘사이버네틱스’나 ‘오토마타’와 차별되면서 자신의 연구 프로그램에 적합한 새로운 이름을 찾아냈다. 그것이 바로 ‘인공지능’이었다. (p. 93-95)

매카시와 같은 생각을 가지고 있었던 사람으로는 앨런 뉴얼과 하버트 사이먼이 있었다. 그들은 1956년 봄 컴퓨터로 논리 문제를 푸는 프로그램인 ‘논리 이론가’를 완성했다. 이 프로그램은 명실상부한 첫 번째 인공지능이었다. 이것은 화이트헤드와 러셀의 난해한 저작인 <수학의 원리>의 52개 증명 중 38개를 순식간에 해결했다. 이들은 모두 인공지능 연구가 인간의 뇌를 닮은 컴퓨터를 만드는 것이 아니라, 문제를 푸는 컴퓨터를 만드는 데 집중되어야 한다고 생각했다. 이들은 자신들의 접근 방법을 ‘기호 인공지능(symbolic AI)’이라고 불렀다. 기호 인공지능이 도전한 대상은 체스였다. 당시 체스 프로그램은 마치 체스 마스터처럼 체스를 두거나, 순전히 논리적인 방식으로 체스를 두는 게 가능했다. 전자는 인간의 지능을 모사하는 것이었고, 후자는 인간의 지능과는 무관한 접근 방법이었다. 1967년에 한 체스 프로그램은 매사추세츠주의 챔피언 경기에 출전한 선수를 상대로 첫 승리를 거두었다. 나아가 기호 인공지능은 컴퓨터가 인간의 자연언어를 이해하게 하는 것을 목표로 삼았다. 이를 위해서는 인간이 사용하는 언어의 구조를 분석해서 이를 인공지능에 입력하는 것이 필요했다. 1966년 언어를 이해하는 첫 번째 인공지능 프로그램 ‘일라이자’가 개발되었다. 이것은 심리 상담을 하는 정신과 의사를 훌륭하게 흉내내는 채팅 프로그램이었다. (p. 98-100, p. 203-204)

사이버네틱스의 전통을 계승한 일부 연구자들은 인간의 뇌를 닮은 컴퓨터를 만드는 데 관심이 높았다. 이들은 계속해서 뇌를 자극하면 뇌세포를 연결하는 부위인 시냅스가 강화된다는 도널드 헵의 연구와 맥컬럭-피츠 모델에 근거해 뇌를 모사한 인공지능을 만들려고 했다. 프랭크 로젠블랫은 1960년 인간의 뇌 구조를 모사한 ‘퍼셉트론’ 컴퓨터 ‘마크 I’을 개발했다. 퍼셉트론은 뇌의 뉴런처럼 병렬연결된 신경망 회로를 가지고 있었고, 어린아이가 배우듯이 시행착오를 거쳐 배우고 학습한 것을 축적할 수 있었다. 당시 여러 전문가와 대중매체는 퍼셉트론이 인공지능 연구의 새 장을 열었으며 발전 가능성이 무궁무진하다고 높게 평가했다. 그러나 기호 인공지능 진영에서는 신경망 컴퓨터에 대한 비판을 쏟아냈다. 특히 시모어 페퍼트는 퍼셉트론 두 개의 입력값이 같은 것인지 다른 것인지 구별하는 ‘배타적 OR 문제’를 해결할 수 없다는 것을 증명했다. 기호 인공지능 진영에서는 이 증명이 신경망 컴퓨터에 내린 ‘사형선고’라고 간주했다. 그 후 10여 년간 인공지능 연구는 기호 인공지능이 지배했다. (p. 103-104)

1970년대 내내 실패한 패러다임 같았던 신경망 컴퓨터는 1980년대에 다시 등장했다. 신경망 인공지능 연구자들은 신경망 회로의 층을 여러 개 만들고 특정한 알고리즘을 구현하면 민스키와 페퍼트가 비판한 문제가 해결될 수 있다고 보았다. 신경망 인공지능도 기호 인공지능처럼 논리적 연산을 할 수 있다는 것이었다. 그렇지만 그러한 아이디어가 실현되기 위해서는 값싼 하드웨어가 나와야 했고, 2010년이 되어서야 신경망 인공지능은 기호 인공지능이 하지 못하는 패턴 인식 등을 해내기 시작했다. 2016년 신경망 인공지능을 이용한 알파고가 이세돌 국수와 대결에서 4 대 1로 이기는 기염을 토했고, 지금은 자연어 번역, 음성 인식, 패턴 인식 등의 영역에서 기호 인공지능이 도저히 따라갈 수 없는 발전을 보이고 있다. 인공지능은 이제 ‘머신 러닝’, ‘딥 러닝’의 방법을 사용하면서 다시 새로운 르네상스를 열고 있다. (p. 104-105)

인공지능 연구는 사이버네틱스 연구와 맥을 같이하여 인간의 뇌를 모사한 인공지능을 만들려는 신경망 인공지능 연구, 그리고 논리적 연산을 빨리함으로써 궁극적으로는 인간의 결정과 비슷한 결정을 내리는 인공지능을 만들려는 기호 인공지능 연구의 두 갈래를 지니고 있다. 인공지능 연구 초기에는 기호 인공지능을 기반으로 하는 AI 프로그램들이 많이 개발되었으나, 오늘날에는 신경망 인공지능을 기반으로 하는 AI 프로그램들이 빠른 속도로 개발되고 발전하는 중이다.

<인공지능과 인격> 등의 포럼에 참석한 적은 있으면서도 연구의 역사를 비롯하여 인공지능에 대한 기초적인 지식은 전혀 없었던 것 같다. 책을 통해 인공지능 연구의 두 가지 큰 갈래에 대해 어렴풋이 이해할 수 있었다. 12장에서는 인공지능에 대한 철학적 논쟁 역시 다루어지고 있었는데, 해당 논쟁은 ‘인공지능 윤리학’ 등의 보다 세분된 학문으로 발전되어 논의되고 있는 것으로 알고 있다. 윤리학적 접근을 그렇게 즐기지 않아 전혀 접해본 바 없는데, 기회가 되면 교양 서적을 한 권 정도 읽어 보면 좋을 것 같다.