<12월 15일 종교인 모임>

-모임일시 : 2023.12.15. (오후3시~ 6시)
-주제 : '특이점이 온다
          지은이 - 레이커즈와일, 출판사 : 김영사
- 발제자 : 송용민 신부님 (제7장 _ “나는 특이점 주의자입니다.”)
              신익상 교수님 (제9장 _ 비판에 대한 반론)
- 방법 : 인천 논현동성당 대면회의
- 참석자 : 박태식 신부님, 송용민 신부님, 신익상 교수님, 심원 스님
              최복희 교수님. 이공현 교무님, 최현민 수녀님, 미산 스님


씨튼 종교간 대화 모임 발제 – 『특이점이 온다』 (레이 커즈와일, 2005)


제7장 “나는 특이점주이자입니다.”

송용민 신부

1. 특이점주의자? 어떤 유형의 사람인가?

레이 커즈와일은 자신을 특이점주의자라고 지칭한다. 자신을 비롯하여 “특이점이 무엇인지 이해하고 그 의미를 자신의 삶에 반추하는 사람”을 지칭하는 말인데, 나는 좀 생각이 다른 사람, 특별하거나, 특이하다는 우리 말의 어감에서 오는 묘한 느낌대로, 그는 이러한 사상을 “전통적인 종교적 신념의 대상에 믿음을 잃어버린 사람들이 택할 만한 대체 신념이란 평가”(조지 길더)에 동의하는 듯 하다.
그의 과학 기술에 대한 절대적 신뢰는 거의 종교적 신념에 가깝다. 기술 진화는 기존 종교들이 풀고자 했던 문제들, 곧 생명의 유한함과 불멸, 삶의 목적, 우주 속의 지능 등에 대한 종교론적 담론을 대체할만한 새로운 사상적 전향점을 보여준다. 그래서일까? 특이점주의자로 지칭한 자신에 대한 편견이 적지 않음을 안다. 그렇다고 외롭고 고독한 경험, 공감되지 않음, 편협한 시각으로 자신을 바라보는 것을 불편하게 여기는 것 같지는 않다. 그저 보통 사람들이 받아들일 수 없는 현재의 상식적인 수준의 비판이라고 생각하거나, 무지한 대중이 특별한 경험 세계를 이해하지 못하는 안타까움 같은 것처럼 느껴진다.

레이 커즈와일은 특이점을 인정한다는 것은 기초적인 기술 트랜드에 대한 이해와 만물을 새롭게 바라보는 통찰을 얻는 일이라고 규정하며 다음과 같은 자신의 과학기술 진화의 여정을 짧게 정리한다.

① 생명공학과 나노기술이 획기적인 생명 연장 방법을 알려줄 것 - 유감스럽게도 현재의 중년은 노화 과정을 제대로 인식하고 적극적으로 개입하여 관리할 기회를 누리지 않을 것이란 자조섞인 비판도 있다.
② 몸의 생화학의 재편 – 유전적 유산의 극복을 위한 처방을 받는 레이 커즈와일 자신에 대한 체험.
③ 육체는 일시적이고, 영속성을 지닌 것은 몸과 뇌의 어떤 패턴이다. 그는 스스로 ‘패턴주의자’라고 부를 만큼 과학적 패턴에 대한 확신에 가득차 있다.
④ 분자 나노기술 조립법의 도움 – 인간의 생물학적 한계가 기술과의 통합을 통해 정신적 능력의 초월에로 감행될 것이다.
⑤ 기술을 통한 인간 사회 문제의 극복 – 지능은 선택적으로 파괴하여 지식을 엮어 내듯이 지식의 가치가 인정될 것이다.
⑥ 죽음은 비극이며 극복 가능한 것 – 인간의 죽음은 뇌 속에 생겨났던 특정 신경 패턴들을 더 이상 효과적으로 사용할 수 없게 되는 것에 불과하다.
⑦ 기존 종교들의 역할은 죽음을 합리화하는 것이고, 죽음이라는 비극을 좋은 것인양 이해시키는 것이라는 주장 - 삶의 목적은 지식을 창조하고 감상하는 것이며, 인류의 지능과 기술은 우주적으로 확장해가는 것이라면 종교의 역할은 지능과 우주가 대신하게 될 것이다.
⑧ 자기복제력을 갖춘 비생물학적 지능으로 인류가 우주로 뻗어 나가는 일은 ‘티핑포인트(임계를 넘어 펼쳐지는 변화의 지점)를 넘어서면 가능해질 것이다.
⑨ 가속적으로 발전하는 기술은 현재의 비관론을 이기고 다가올 미래 기술의 역량에 기대감을 갖고 활용할 계획을 세우게 될 것이다.

레이 커즈와일은 인류의 목표가 “인간이 추구하는 가치들에 맞는 방향으로 과학기술을 조정하여 초월을 이루는 것”(철학자 막스 모어)이라는 주장이나, “인간은 동물과 초인 사이에 놓인 밧줄이오, 심연 위에 걸쳐진 밧줄이다.”(니체)라는 생각에 동의하는 듯 하다. 그래서 특이점이 그저 다가오면 어쩔 수 없다는 수동적 특이점주의자들에 반대하여 자신이 추구하는 과학기술의 올바른 지향점을 강조하려고 한다. 그도 그럴것이 과학기술은 이상한 방향으로 잠재력을 발휘하여 심각하게 나쁜 결과를 가져올 수 있다는 점을 역사로부터 배웠기 때문이다.
  그에게 남은 문제는 이러한 특이점주의자의 주장에 대해 사회적 안정과 평화를 사수하고 신에 대한 도전이라고 반대하거나, 미지의 것을 배격하고자 하는 종교적 문화적 충동 등의 반동적이고 피상적인 반기술 정서에 대한 우려인 셈이다.

2. 인간 본질에 대한 물음, 인간 의식과 초월에 대한 새로운 발상

인문학의 영역에서 자주 등장하는 미래의 인류를 ’포스트휴먼‘이라고 부른다. 인간의 생물학적 한계를 넘어서려는 증강 인간인 트랜스휴먼을 넘어 인간 본성상 끊임없이 자신의 경계를 넓혀가려는 문명에 속하는 존재론적 특성상 생물학을 재편하고 보강하는 기술을 동원해 생물학의 한계를 인류가 넘어서려고 할 때 현생 인류를 넘어서는 포스트휴먼이 탄생할 것이라는 예측이다.
  레이 커즈와일은 변화란 “생물학 자체를 초월하는 것”이라고 말하고, 특이점이라는 변화는 “기나긴 생물학적 진화 역사의 마지막 단계가 아니라 아예 생물학적 진화를 통째로 딛고 올라서는 단계”라고 표현한다. 이 점에서 종교와 신에 대한 그의 관점을 엿볼 수 있다. 빌게이츠와의 대화에서 그는 종교가 죽음을 합리화하는 역할을 하지만, 인간의 모든 도덕과 법률의 바탕인 타자의 의식을 존중하는 것은 종교지 지닌 가치임을 인정한다. 그러나 그에게 신의 존재는 신성(神性)을 뜻하는 “스스로 의식을 갖게 되고 최고로 고상한 지적 존재로 깨어나는 우주”가 바로 신에 근접한 존재라고 생각하며 생물학적 지능의 한계를 넘어서는 것이 그의 종교적 신념임을 밝힌다.

1) 의식이라는 골치 아픈 문제

생물학적 인간을 비생물학적 기계와 구분하는 가장 큰 기준은 ’의식‘의 존재 여부라고 한다. 철학적으로 의식이란 “그 자신이 스스로가 알고 있는 것을 안다는 것, 그 자신이 스스로가 알고 있는 것을 안다는 것을 안다는 것”(J. R. 루카스)이라고 전제한다면, 미래의 기계들은 과연 의식이 지닌 ’감정적 체험‘과 ’영적 체험‘이 가능할까? 자주 공상과학영화에 등장하는 주제이기도 하다(예: 엑스마키나, HER)
  레이 커즈와일은 인간보다도 더욱 복잡하고 미묘한 면을 지닌 비생물학적 시스템이 2020년대 말이면 개발될 것이라고 예측한 바 있다.(이는 쳇GPT 4.0이 튜링테스트를 통과할 때 실현될 일이다)
  그는 이러한 과학적 진보가 실제 인간의 패턴을 적절한 비생물학적 사고 기판에 업로드 하는 것으로 가능할 것으로 내다보았다. 나노봇의 혈류 이식을 통하여 이들이 생물학적 뉴런을 도와 감각을 증폭하면서 신경계 내부로부터 가상현실을 제공하고, 기억 저장을 돕고, 인지 활동을 뒷받침하는 사이보그의 세상이 열릴 것이라는 주장이다. 이는 일론 머스크가 추진하는 ‘뉴럴링크‘(Neural Link) 기술로 가시화되고 있기는 하다. 이러한 기술적 진보, 곧 비생물학적 지능이 생물학적 지능을 뛰어넘어 팽창하는 특이점이 2040년대 가능하다고 보는 것은 이런 예측 때문이다.
  문제는 이러한 비생물학적 지능에도 의식이 존재하느냐는 물음이다. 그는 현재로서 의식의 존재 유무를 확정해줄 수 있는 객관적 검사법은 없다고 단언한다. 그 이유는 객관적 측정의 세계인 과학의 도구로 인간의 주관적 체험을 측정할 수 없기 때문이다. 비생물학적 지능의 행동이 제아무리 생물학적 인간과 흡사하더라도 인간이 스스로 기계와의 차별성을 강조하며 비생물학적 지능에 의식이 없다고 꼬투리를 잡기로 결심한다면 논쟁은 끝이 없기 때문이라는 것이다. 하지만 과거 동물에게 의식이 있느냐는 논쟁이 오늘날 반려견이나 동물애호가들에 의해 그들 역시 생물권적 보호를 받아야 한다는 의식이 확장된 사례를 보면, 미래의 비생물학적 개체들에 대한 뜨거운 논쟁이 일어날 것은 예측 가능하다고 말한다. 의식에 있어서 생물학적 지능과 비생물학적 지능 사이의 구분의 모호하기 때문이다. 비록 주관적 경험의 가치를 인정하고 인류의 윤리와 도덕과 법 개념의 초석인 의식이 인간 고유의 것이라고 주장하더라도 비생물학적 지능에게 존중받을 만한 느낌이 존재한다면 그들에게도 입법 과정과 소송을 통해 어떻법적, 도덕적 기반이 마련되지 않으리란 법은 없을테니 말이다.
  의식의 주관적 체험에 대한 논쟁은 때로 주관적 체험이란 오늘날 가상현실 기술의 측면에서 보면 상상의 결과이거나 아예 존재하지 않는 것이거나, 모호하고 일시적인 현상일 수 있다는 주장도 없지 않다(제이론 라이어). 따라서 의식의 문제를 객관적 측정이나 분석의 과학으로만 풀 수 없기에 철학의 역할이 핵심적이라고 말하지만, 여기서 철학은 단순히 서구 철학의 전통적인 존재론의 입장에서라기보다는 주관적 체험이 없다고 가르치는 동양의 불교 사상가들이나 서양의 양자역학 해석가들의 경우가 더 적합하다는 입장이다.
  주목할 만한 것은 인간의 의식 세계에서 타자의 경험을 경험해볼 수 있느냐는 물음에 대해 레이 커즈와일은 다른 사람의 의식의 패턴을 자신 안에 통합하여 새로운 정체성을 얻는다는 것이 가능하지 않겠느냐는 입장을 취한다. 그것을 오늘날에는 ’사랑에 빠지는 체험‘이라고 말한다면 이 놀라운 체험을 과학의 언어로 정립한 것은 아닐까?


2) 나는 누구일까? 나는 무엇일까?

인간에 대한 물음은 오늘날 질문의 형태가 바뀌었다. “나는 누구인가”라는 실존적인 질문은 “나는 무엇인가?”라는 물리학적 관점으로 전환되고 있다. 과학자들은 인간의 모든 구성분자들이 한달이면 교체되어 나라는 존재가 완전히 다른 물질로 바뀌어도 궁극적으로 나라는 존재에 존속하는 것은 흔히 말하는 영혼이나 정신 등이 아니라고 말한다. 레이 커즈와일은 오히려 물질들을 배치하는 어떤 ’패턴‘이라고 주장한다. 철학의 의미에서 패턴이란 “사태가 주어졌을 때, 그러한 사태를 결과론적으로 현현할 수 있는 특정한 규칙을 지각하고 그것을 사태의 본성으로 이해하는 일”이라고 규정한다. 새로운 지식의 생성은 패턴 인식을 통해 이루어진다고 한다. 이를 과학기술의 관점에서 본다면 인간의 고유한 패턴을 다른 물질에 업로드한다면 엄청나게 정교한 수준으로 내 몸과 뇌를 원본과 구별할 수 없을 만큼 복제할 수 있지 않을까 상상해볼 수 있다. 오늘날 신경과 인체를 복사하는 기술의 해상도와 정확도가 기하급수적으로 발전할 것이라는 전제 하에서 말이다. 영화의 단골 주제처럼 자주 등장하듯이 어느 날 내가 전혀 다른 몸으로 다시 태어나거나, 내 몸에 다른 뇌가 들어서 다른 사람으로 바뀌게 된다면 어떻게 될까? 그럴 때 나라는 존재는 무엇인지 묻게 되는 것이다.
  레이 커즈와일은 몸은 바뀌어도 영속하는 것은 물질과 에너지의 특정 시공간적 패턴뿐이라고 말한다. 그 이유는 의식이 무엇인지 명료하게 규정할 수 없고 의식은 개체가 전적으로 자신만 명료하게 느낄 수 있는 주관적 현실이기 때문이다. 만일 신경학적 현상과 의식의 존재론적 실체 사이를 구별하는 것이 객관적 현실과 주관적 현실을 구분하는 것만큼 어렵다면 비생물학적 개체에도 의식이 있다는 결론에 이를 수 있다고 한다. 나의 의식 속에 존재하는 것은 사람들에 대해 내가 갖고 있는 기억뿐이고, 기억도 사실은 하나의 패턴에 불과하다고 한다면 “나는 진화하는 패턴이고, 지식 또한 하나의 패턴”이라는 레이 커즈와일은 그야말로 패턴 신봉주의자다운 면모를 보인다. 어쩌면 나 자신이라는 경계에 대한 모호함이 비생물학적 지능으로 확대되는 것이 바로 ’특이점‘의 본질인 셈이다.

3) 초월로서의 특이점

레이 커즈와일이 과학기술의 진화에 대해 지닌 확고한 신념은 종교의 전유물처럼 여겨지는 초월이라는 영성적 차원을 물리적 세계에서 구현하려는 의지로 확장된다. 그는 특이점이 물질 세계에서 벌어질 현상이지만, 초월의 문제도 물질과 에너지로 이루어진 물질세계에 존재한다고 확신한다. 그는 패턴주의자답게 초월의 의미도 “패턴이 지닌 창발적 역량”으로 본다. 초월이란 종교학에서 말하는 영적 세계로의 변모, 질적 도약이나 승화가 아니라 패턴이 일상적인 것을 넘어 의식의 확장을 만들어 내는 초월적 능력이라고 본다. 그는 생명이나 지능을 지탱해주는 것은 패턴의 끈질긴 지속력이며, 인류의 모든 예술, 음악, 과학도 결국에는 물질들을 배열하고, 나열하며, 조립한 결과물이라고 본다. 그렇다면 그에게 초월은 영적인 것이 아니라 모든 현실적 수준에 적용되는 현상으로 재규정된다. 진화 과정이란 “패턴의 깊이와 질서가 증가하는 것”이다. 인간 의식을 영혼으로 규정한다면 특이점의 시대에 비생물학적 지능은 우주로 확장되고 이들의 영혼이 우주를 가득채울 것이라는 점이다.
  초월이라는 종교적 진술이 여기서 과학적으로 재서술된다. “진화는 더욱 복잡하고 더욱 우아하고, 더욱 지적이고, 더욱 지혜롭고, 더욱 아름답고, 더욱 창의적이고, 사랑처럼 더욱 미묘한 그런 속성들을 향해 간다,” 우리가 영적인 작업이라고 말하는 것도 결곡 우리의 사고를 생물학적 형태라는 심각한 한계에서 벗어나게 만드는 일인 셈이며, 이는 우주라는 비생물학적 실체가 지적인 존재로 변모하여 의식 있는 우주의 등장을 예측할 수 있다는 것이다(예; 매트릭스의 기계신, 트랜센던스의 초지능). 레이 커즈와일이 정보 처리의 단계를 통해 진화의 시기를 여섯 시기를 개념화했는데 제1기(정보가 원자 구조에 저장), 제2기(정보가 DNA 저장), 제3기(정보가 뇌와 신경 패턴에 저장), 제4기(정보가 하드웨어와 소프트웨어에 저장), 제5기(인간과 기계의 융합), 제6기(우주의 지능화)
 오늘날은 인간과 기계의 융합이 이루어지는 제5기에 해당한다면, 미래에는 우주의 지능화라는 제6기의 진화의 단계에 도달한다는 것이다. 그에게 초월이란 바로 정보의 패턴이 우주에 가득 차 우주가 숭고하고 장엄한 지능이 되는 것이라고 말한다.


3. 종교의 위기인가, 기회인가? - 비과학과 반과학의 경계에서

레이 커즈와일의 특이점에 대한 논쟁은 뜨겁다. 그것은 최근의 인공지능 기술개발의 결과가 예측할 수 없을만큼 빠르게 발전하고 있기 때문이다. 과학의 언어가 모든 지식체계를 수렴하는 21세기는 전통적인 종교의 언어가 설 자리를 잃고 신의 영역을 과학이 해명할 수 없는 저편에 머물게 하거나 과학과 병립할 수 있는 길을 찾는 것일 뿐이다.
  인간이란 누구인가라는 물음이 모든 철학과 종교학의 근원적인 질문이다. 그러나 인간의 의식과 영혼마저 물질로 환원하려는 사상이나 그리스도교의 창조론과 신론에 전투적으로 맞서 종교의 허구성을 밝히려는 무신론(리처드 도킨스)과 마주한 종교들, 특히 그리스도교(기독교)는 오늘날 과학에 대하여 어떤 입장을 취해야할까? 몇 가지 생각의 고리들을 열어보고자 한다.

첫째는, 반과학과 비과학은 구분할 필요가 있다. 미국에서 확산된 이른바 ’창조과학‘은 성경을 문자 그대로 해석하여 구약성경 창세기 1장-2장의 말씀을 토대로 인류의 역사를 6000-8000년으로 보거나 우주 창조를 6일로 규정하려는 반지성주의 입장에서 과학과의 갈등을 야기하는 유사과학의 입장이 등장한 바 있다. 최근 신경과학만능주의 입장에서 인간 의식을 생화학적인 상호 작용으로 환원하려는 움직임이나 신에 대한 신앙을 ’만들어낸 신‘(리처드 도킨스)로 치부하려는 움직임을 생각할 때 과학에 대한 반감은 기독교의 오랜 정통주의신학에서 보면 당연한지도 모른다.
  그러나 과학적 창발론이나 유물론적 일원론의 도전에 대해 종교 역시 과학주의가 지닌 언어와 가치 규범에 대해 비판할 수 있다. 여기서 과학주의란 “탐구자와 전혀 독립된 사실들을 다루고, 경험적-분석적 방법만이 유일한 지식 획득의 수단이라고 생각하거나, 이 방법은 인식 활동의 모든 영역에 확대되어야만 하고, 이러한 방법을 통해 얻어진 결과만이 진정한 형태의 지식이라고 주장”하는 것을 뜻한다. 이들은 현상의 법칙의 본질에만 관심을 갖고 철학과 신학의 관심사인 현존재의 궁극적 관심이나 의미 추구 등의 사유마저 과학으로 환원하려는 것은 인간 의식이 지닌 비과학적 차원을 폄하하는 것일 수 있다. 여기서 비과학이란 말은 합리성의 주장과 다른 비합리성, 곧 논리적 합리성으로 해명할 수 없는 영역이 존재한다는 인간 현존재의 자기 고백과도 같은 것이다.

둘째로, 모든 종교의 담론에서 다양한 교리의 형태로, 혹은 체험의 형태로 언급되는 초월에 대한 체험도 기술 진화에서 예측한 물질적 세계 속의 정신성의 확장이라고 말하는 것과 동일한 것이냐는 질문에 대해 각각의 종교가 다른 해답을 내놓을 수 있다는 점이다.
  그리스도교 신학자로서 초월은 정신세계가 물질계로 확장되어 전 우주의 지능화를 추구하는 것이라는 레이 커즈와일의 입장에 동의할 수가 없다. 인간의 유한한 정신세계가 무한에로 도약할 수 있는 가능 조건은 기술 진화에 따른 비생물학적 지능이 인간의 생물학적 한계를 넘어서도록 통합된 새로운 정체성을 얻는 것이라는 점은 인간이 스스로 신이 되는 과정, 곧 호모 데우스(유발 하라리)로의 진화의 과정을 전제한다. 그러나 그리스도교에서 말하는 초월은 인간에 내재된 기술적 진화의 본성이 아닌 인간에게 선물처럼 주어진, 기독교의 표현으로 “신의 은총으로 섭리된 인간”이라는 계시 체험에서 출발한다. 우리가 인간이라고 규정하는 것은, 인간의 본성적 제약성, 곧 유한한 존재자로서의 자기 의식으로부터 출발하는 것이기에, 그 제약성을 넘어 무제약성에로의 도약은 결코 인간 스스로의 본성으로부터 발현되거나 창발되는 것이 아니라는 점이 기독교 신학의 본질이다. 그것은 인간 감각의 물질적 한계가 레이 커즈와일이 주장하듯 GNR, 곧 유전학과 나노과학이 로봇공학과 결합하여 인간의 모든 세포들의 기능을 무한하게 확장하여 인간 존재를 불멸과 신성의 존재로 만드는 것과는 차원이 다르다. 물질의 한계를 넘어서는 것은 물질 그 자체가 지닌 능력이 아닌, 물질을 물질이게끔 만든 가능 조건, 곧 피조물을 존재하게 만든 창조적 원리에 근거하지 않고는 해명되지 않는다는 것이 기독교의 근원적 체험이다.
  참된 초월이란 물질세계로의 탈피가 아니라, 인간이 궁극적으로 추구해야할 원천, 근원, 곧 영원하고, 무한하며, 형언할 수 없는 신비 그 자체(하느님)에로의 궁극적 희망이며 지향이다. 그리고 인간의 감각을 완전히 새롭게 정화하고 고양시켜 궁극적 아름다움으로 인간의 영적 변화로 이끌어주는 원리야말로 그리스도교가 말하는 초월의 진정한 가치라고 말한다. 그것이 예수라는 인물을 통해 드러난 자기 비움의 역설의 논리에서 발견되는 참된 인간 가치의 완성이라는 점을 생각한다면 오늘날 과학과 종교의 대화가 어떤 방향으로 이어져야 할지 남겨진 과제이다.

-----------------------------------------------------------------------------------------------------------------------------------------
「특이점이 온다」 9장. 비판에 대한 반론:
전반적으로 휘그사관(근대 진보사관)으로 대응하고 있음
지능과 뇌를 동일시하고 있음

신익상 (성공회대학교)

1. 믿을 수 없다는 비판
○ 믿기 힘들다는 단순한 불신
• 과학자들의 보수적 접근(신중함) = 비관주의?
• 연산의 가격 대 성능비는 기하급수적 성장 지속 & 수확 가속의 법칙 vs 제번스의 역설
• 존재의 대 사슬: 인간의 우월성에 대한 맹목적 믿음 vs 자기 한계를 넓혀 간 인류의 역사

2. 맬서스주의자들의 비판
○ 기하급수적 추세는 언젠가는 벽에 부딪치게 된다는 주장.
• 수확 가속의 법칙 덕에 전 세계적으로 경제가 발전 → 세계적으로 인구 증가 속도 둔화:
  정보기술도?

• but, 정보기술 둔화는 커다란 변혁들이 모두 벌어지고 난 후: 모든 분야가 현재보다 훨씬
 효율적으로 에너지를 사용하게 될 것 (나노 기술 활용) : 환경압력 문제는?
• 정보기술 능력은 한계가 있지만 불편이 없을 정도의 한계.

3. 소프트웨어에 관한 비판
○ 양적 성장과 질적 성장의 구분: 양적 역량(기억 용량, 처리 속도, 통신 대역폭 등)
  기하급수적으로 증가, but, 소프트웨어 (방법론, 알고리즘)는 그렇지 않음!
• 뇌 역분석의 발전.
• 인간 지능(뇌)의 자기조직적 방법론을 인공지능에 적용할 수 있게 될 것.
• 소프트웨어의 안정성: 소프트웨어적 오류는 인간의 오류보다 훨씬 적다.
• 소프트웨어의 반응성 반응성은 계속 성장, 과거보다 현재가 더 낫다. 과거의 삶이 "더 짧고,    노동 집약적이고, 가난하고, 질병과 재앙에 무방비였던 것도 사실."
• 소프트웨어의 가격 대비 성능비:1985년,1,000개의 단어가 담긴 소프트웨어=5,000달러.
  2000년, 십만 단어=50달러. 효율성 증가
• 소프트웨어 개발의 생산성: 25년 전에 10명 이상이 1년 이상 해야 했을 작업을 요즘은
  서너명이 몇 달 안에 해낸다."
• 소프트웨어의 복잡성 : 정보 복잡성의 측면에서 소프트웨어는 이미 인간 게놈과 게놈을 돕는 분자들에 담긴 정보량을 뛰어넘었음. 이미 뇌의 병렬식, 자기조직적, 프랙탈식 알고리즘을모델링하고 시뮬레이션할 정도의 복잡성에 도달함.
• 발전하는 알고리즘 핵심 알고리즘은 효율화 달성. ex) 병렬 처리 최적의 연산 밀도 확보가관건. "단 하나의 알고리즘 개선을 통해 하드웨어가 수년간 조금씩 발전해온 것과 맞먹는혁신을 이룰 수 있다."
• 지적 알고리즘(지능)을 얻어낼 궁극의 원천: 뇌와 뇌의 방법론(병렬식, 카오스적, 자기조직적,프랙탈식 기법들에 관한 지식 기하급수적 증가. 지능=뇌? 기술적 진화는 생물학적 진화보다빠름. ex) 인공 박테리아 배양, 진화=진보? 인간 지능을 완벽히 모델링한 기계-인간의

패턴인식능력+빠른 속도+엄청난 기억 용량 + 공유 능력. 기억-정보의 저장?
4. 아날로그 처리 방식에 관한 비판
• 뉴런을 모델로 한 인공신경망: 뉴런 활성화 함수=비선형적, 아날로그적(?)
• 디지털 기법으로 아날로그 과정 모방 가능. 그 역은 반드시 참이 아님.

5. 신경 정보 처리의 복잡성에 근거한 비판
○ 뇌의 복잡성 뇌는 너무나 복잡해서 비생물학적 기술의 모델링과 시뮬레이션은 불가능
• 뇌 역분석: 있는 그대로의 뉴런 모방이 아니라 정보처리 기법의 핵심을 이해하기 위한 것.스스로 학습하며 자기조직적인, 카오스 시스템을 구축하는 것. 인위적으로 복잡하게 만드는
것이 아니라, 스스로 복잡성을 획득하도록 하는 것.
○ 컴퓨터의 기본 속성으로서의 이원론: 컴퓨터의 하드웨어와 소프트웨어는 분리 가능. 인간의뇌와 마음은 분리 불가능.
· 분리 가능은 장점이지 한계가 아님. 논점의 이동!
• 특정 알고리즘만 수행하는 기기(소프트웨어와 하드웨어의 일치) = 뇌?
• 일원론적인 뇌도 기계적!
• 일원화된 뇌 구조의 한계: 1) 전자기기보다 백만 배이상 느린 화학적 신호 체계 사용,
2) 뉴런의 연결 수제한, 3) 하드웨어 업그레이드 불가능.
○ 뉴런이라는 차원과 연산이라는 차원은 전혀 다른차원.
• 차원과 반복 실행: 단순한 설계 법칙으로도 복잡해 보이는 것 창조 가능
-게놈의 확률적 프랙탈,

6. 미세소관과 양자 연산에 관한 비판
• 양자 연산을 도입하지 않아도 충분히 인간수준의 연산 기계 제작 가능.
• 미세소관에서의 양자 연산 증거도 없고 사과 과정의 핵심이라는 증거도 없음.

7. 처치 - 튜링 명제에 관한 비판
• 약한 해석: 튜링 기계가 풀지 못하는 문제는 다른 어떤 기계도 풀 수 없다.
• 강한 해석: 튜링 기계가 풀 수 없는 문제는 사람도 풀 수 없다. 인간의 뇌는 자연법칙을 따르는데, 자연법칙은 수학 언어로 설명될 수 있고 알고리즘으로 분해 가능하므로, 인간의모든 사고를 시뮬레이션하는 알고리즘이 존재한다. → 사람은 못 해도 튜링 기계는 할 수 있는 계산이 존재한다.

8. 존재론 입장의 비판: 컴퓨터가 의식을 가질 수 있는가?
○ 존 설의 중국어 방 추론 : 형식적이고 구문론적인 프로그램 vs 의미론적이고 정신적인인간의 마음.

·설은 기호 처리 연산(전문가 시스템)만 비판한 것.


• 비생물학적이지만 창발적이고 자기조직적인 패러다임 가능.
• 설의 주장이 일관성을 유지하려면, 의식 판별 자체가 불가능하다고 해야 함.
• 프로그램은 형식론적이고 구문론적?: 뇌 역분석을 통해 알아낸 기법들이 적용된
  프로그램이라면? 카오스적이고 창발적인 기법들의 병렬식 연산 수행 기계라면? 이 경우
  설 의 중국어 방 추론으로는 의식의 유무를 결정하지 못하게 된다.
• 또한, 중국어 방 추론을 인간의 뇌에 그대로 적용하면, 인간 뇌에게도 동일한 결론이 도출
  될 것이다: 형식과 의미를 분리해서 다룰 경우, 뉴런과 시냅스의 작동도 컴퓨터와 똑같은
  상황에 놓이게 된다는 것.
• 의미 이해: 복잡한 활동 패턴의 창발적 속성에 존재.
• 중국어를 모르는 수많은 사람으로 이루어진 중국어 방의 경우.
• 설의 중국어 방 추론은 시스템의 복잡성과 규모의 문제를 간과한 것.
• 커즈와일의 중국어 방 : 질문을 입력하면 그대로 답을 출력하는 타자기. 이 방과 설의 방은    별 차이가 없다.
• 의식이 뇌와 신체의 생물학적 과정(들)로부터 생겨난다는 견해가 맞지만, 객관적 측정과
 주관적 체험의 간극 문제가 있음: 의식에 관한 질문은 결국 객관적 측정은 불가능하고
 추론만 가능할 뿐.
• 설은 인간 뇌보다 단순한 현재의 컴퓨터만 떠올린 것. 미래에는 인간 뇌보다 복잡한 자기
  조직적인 컴퓨터가 가능할 것.

9. 빈부 격차에 대한 지적
• 수확 가속의 법칙이 해결해 줄 것. 모든 기술이 더욱 저렴해져서 거의 공짜가 될 것.• 기술 확산 기간이 짧아지고 있음.
• 정보기술의 가격대 성능비의 기하급수적 발전은 격차를 완화하는 중. ex) AIDS 치료제가 오늘날에는 더 잘 듣고 1년 백 달러 정도 비용으로 저렴해짐. 이는 아프리카의 가난한 곳도 마찬가지. 1년 100달러가 아프리카에서 적은 돈인가? 코로나 백신의 경우는?
•1990년대 이후 세계적으로 가난이 줄어들고 있음. 이것이 과연 수학 가속의 법칙 등 효율성재고 덕분인가?

10. 유신론 입장의 비판
○ 인간 역량을 설명하는 데는 물질 외적인, 영적인 무언가가 필요하며, 그것은 객관적 방법으로는 접근할 수 없는 영역이라는 주장, 뎀스키: 기계는 물질 외적인 요인들이 절대적으로 부족.
• 역량 유물론/패턴주의: 생물학적 뉴련과 시냅스를 복제하거나 모델링하면 생물학적 기법을적절히 묘사하고, 이해하고, 모방할 수 있으며, 이를 통해 지능은 물론 감정과 같은 다른역량들을 실현할 수 있음. cf) 신경과학의 감정과 항상성 관계
• 예측 가능성과 (뎀스키의) 결정론에 대해 물질계는 예측 불가능. 뎀스키는 의지의 문제를제기한 것인데, 커즈와일은 예측 가능성으로 답변함. 즉 예측 불가능성(카오스적 연산 기법)과의지를 구분하지 않음.
· 창발적 속성/패턴: 생물학에서 영감을 얻은 비 생물학적 체계지능, 감정, 열망 등을 드러 낼것. 이 체계는 의식이 있는 존재인가? (근본적인 철학적 질문)
• 초월의 문제: 물질계도 진화를 통해 초월한다. "진화는 무한한 수준에 이르진 못하겠지만
기하급수적으로 확장하고 있으므로 그런 방향으로는 가고 있다. 진화는 신이란 개념을 향해 당당하게 나아가는 것이다. 영원히 그 궁극의 이상에는 도달하지 못하겠지만 말이다.“
진화=진보
• 기계에는 역사가 없다는 뎀스키의 주장: 현재의 기계만을 보고 미래의 기계도 그렇다고 보는 것. "미래 기계들은 역사적 기록을 저장하는 데 그치지 않고 그것을 충분히 이해하고, 그것에 바탕을 둔 통찰력 있는 반성까지 할 수 있을 것이다." ex) 인간도 가짜 정보에 취약하다.
• 뎀스키의 영성(신의 존재 인식) 문제: 복잡한 분산형 패턴들의 창발성 개념을 이해하지 못한 것, ex) 분노.
· 패턴이야말로 근본적인 존재론적 실체. 패턴은 패턴을 구현하는 재료보다 훨씬 중요.
• 지능을 강화하는 물질 외적 요인이 무엇인가?

11. 전체론(holism) 입장의 비판
○ 생물학 체계만이 전체론적 설계 원칙을 원용할 수 있다는 주장. 생물학적 체계의 설계원칙 - 자기 조직적, 자기 참조적, 자기 복제적, 상호 호혜적, 자기 형성적, 전체론적
• 기계도 전체론적 설계 원칙을 적용할 수 있다. 단지 모듈식이지만 않다.
• 이 세계에서 완벽한 전체론 설계와 완벽한 환원론 설계는 찾아보기 힘들다. 생물이나
 기계나 둘 다를 갖는다.
• 생물학자 마이클 텐턴의 생기론적(하향식) 모델 비판: 창발적 속성은 패턴에서 생겨나는 것. • 진화론적 접근 : 상향식 자기조직적 설계 방법론들은 예측 불가능한 요인들을 활용, ex) 양자물리학의 미결정성(indeterminacy) 해석.
• 카오스적 과정은 유기체만이 아니라 인공물에서도 구현 가능. ex) 유전 알고리즘 한 번에 전체를 다루는 접근법으로 개선 진행, ex) 병렬식, 가중치 매개변수
• 자연의 자기 조직적 석계 원칙 + 가속적으로 증가하는 인간 기술 능력 = 전체론적인 기계 제작.

에필로그에서 "결국 인간이 세상의 중심이라는 말은 옳은 것 같다." 존재의 대 사슬 사유의
끝판왕.