• 목록

2. 복잡계 이론의 배경

        (윤영수 외『복잡계개론』, 삼성경제연구소, 2009, 75-102쪽,  2장 복잡계 이론의 배경요약)

                                                                        최  현  민

복잡성과 복잡계는 근래 갑자기 발견된 새 개념이 아니다. 이는 다양한 영역에서 많은 지성에 의해 끊임없이 재발견되어왔다. 다만 과거에는 이를 담아낼 지식이 축적되지 못했으며 이를 과학적으로 접근하여 이론할 수단이 부족했기 때문에 독립된 영역으로 자리잡지 못했을 뿐이다. 그러다가 20세기 후반에 이르러 과학의 지평이 넓어지고 시야가 트이면서 다양한 영역의 복잡성을 하나의 틀로 바라보는 새로운 흐름이 터져 나온 것이 복잡성 과학이다. 그러므로 복잡계이론을 이해하기 위해선 다양한 분야에서 어떻게 복잡성을 인식해왔으며 이를 과학적 체계로 끌어들이기 위해 어떤 노력이 이루어져왔는지 그 배경을 이해하는 것이 매우 깊은 의미를 지닌다. 

1) 단순한 바탕을 찾아서: 환원주의 과학방법론의 정립

* 오컴의 면도날

근대 서구 과학철학에는 다음과 같은 명제가 있다. “본질은 필요 이상으로 부풀려져선 안된다.” 이는 14세기 영국 프란체스코 수도회 수도사였던 윌리엄 오컴이 남긴 말로 ‘오컴의 면도날’이라 불린다. 이 명제는 현상을 설명하는데 있어 가장 간명한 이론이 가장 바람직하다는 말이다. 즉 “단순한 것이 아름다운 것”이다. 프톨레마이오스의 천동설은 당시에는 여러 천문현상을 정교하게 기술했고 설명의 정밀도도 높았다. 그러나 실제로 진리로 드러난 것은 매우 간단한 코페르니쿠스의 지동설이었다. 이 이론은 후에 갈릴레이, 케플러로 이어지면서 확고해졌다.

2) 인과적 결정론의 시대

*뉴턴 역학과 라플라스의 무한지성

지동설 후 근대과학혁명이 시작되었다. 이 과학혁명은 뉴턴의 <프린키피아>의 출간으로 일단락되었다. 그는 이 책에서 만유인력의 법칙과 세가지 운동법칙이라는 새 근본법칙을 제시했다. 그 전까지의 과학은 실험과 관찰을 통해 얻어진 경험에 근거했다. 그런데 뉴턴은 미분 개념을 고안해서 자연현상이 수학이라는 도구를 통해 설명될 수 있음을 보였다. 즉 일련의 수식으로 기술되는 힘(force)가 그것이다. 이로서 종전의 미래탐구는 예언의 성격이 강했다면 뉴턴은 예측의 희망을 열어주었다. 이것이 ‘인과적 결정론’의 사조를 낳게 되었다. 인과적 결정론에 의하면 모든 행위에는 원인이 있으며 모든 자연현상의 원인을 거슬러 추적하면 일체 초자연적 영향을 배제한 만물의 이론에 도달하게 된다.

 18세기 들어 뉴턴역학은 전유럽으로 확산되었고 그 정점에 프랑스의 라플라스가 있다. <천체역학>이라는 역작을 남긴 그는 인과적 결정론의 신봉자로, 사회현상을 포괄하는 모든 자연현상은 수학으로 기술되는 인과론적 원리에 의해 완벽하게 설명될 수 있다고 주장했다. 그의 주장은 <확률에 대한 철학적 소론> 서문에 나오는 무한지성 (라플라스의 악마라 불림)에 대한 구절에 잘 나타나 있다.

3) 생명현상의 환원주의적 연구

데카르트는 <인체의 기술>을 통해 인체를 하나의 기계로 이해하고 그 기계를 작동시키는 것이 ‘영혼’이라 생각했다. 인체에 대한 그의 시각은 비과학적이었으나 핏줄에 대한 시각은 정확했다. 그의 사유는 하비(W. Harvey)에로 이어져 그는 혈관을 통해 혈액이 심장에 소화된 영양분을 전달해 준다는 혈액순환론을 내놓았는데 이는 생리학 분야의 혁명이었다.

18세기 프랑스의 화학자 라부아지에는 공기가 산소 질소 수소 등 여러 기체의 혼합물임을 알아냈고 생물의 호흡 또한 산화작용의 하나라는 사실을 알아냈다. 자연현상을 물리학과 수학으로 환원하여 이해할 수 있다는 믿음이 생명현상도 화학으로 환원하여 이해할 수 있다는 믿음으로 이어졌다. 이는 19세기 들어 세포론의 형성 발생학과 미생물학의 등장, 진화론의 태동 등 중대한 진보로 이어졌다.

2장. 복잡한 전체를 향하여--전일주의 과학방법론의 등장

1) 확률적 세계관과 통계역학의 출현

19세기 열을 설명하는 열소(熱素, caloric )이론이 주목받았다. 이 이론에 의하면 열은 보이지 않고 질량도 없는 열소에 의한 것이며 열소가 많고 적음이 온도를 결정한다는 것이다. 그러나 19세기 중반부터 줄(P. Joule)과 클라우지우스( E clausius) 의 연구에 의해 열현상은 열소를 도입하지 않고도 분자운동만으로 설명이 가능함이 밝혀졌다. 그러나 열소를 제외하고 분자운동만으로 설명하자니 분자수가 너무 많았다. 그래서 맥스웰은 이에 대한 통계적 접근이 필요하다고 생각하고 기체분자의 동역학을 통계적으로 다루기 시작했다. 이어 볼츠만은 이 이론을 발전시켜 통계역학의 체계를 완성했다. 볼츠만은 클라우지우스의 열역학 제2법칙 곧 엔트로피(entropy) 개념을 통계역학으로 확장했다. 엔트로피가 커졌다는 것은 미시상태의 개수가 많아졌음을 의미한다.

예) 고체인 얼음에 열을 가해 물이 되면 그만큼 물분자 운동이 늘어나고 여러 미시상태를 가지게 된다. 볼츠만은 이 미시상태의 개수를 엔트로피로 정의했다.

    S=k lnΩ  (  S는 엔트로피의 변화량,  k는 볼츠만 상수이고, Ω는 미시상태의 개수)

평형계에 대한 통계역학은 모든 문제에 답을 주진 못했지만 이 이론이 계속 발전하여 복잡계이론을 탄생케 했다.

2) 다윈의 진화론과 생태학의 등장

열역학 제2법칙 곧 엔트로피 법칙으로는 생물의 진화문제에 접근할 수 없었다. 엔트로피 법칙에 의하면 무질서가 증가되는 방향이어야 하는데 생명체는 오히려 보다 질서잡힌 쪽으로 진화되어가지 않는가? 다윈은 이 문제를 적자생존의 법칙으로 풀어냈다. 즉 주어진 환경에 잘 적응한 개체만이 자연선택에 의해 살아남아 후손을 번성시킨다는 것이다.

다윈의 진화론은 종래의 물리법칙으로 생명현상을 설명할 수 없다는 한계를 드러냈다. 그 후  생물학자 헤켈은 ‘생태학’이라는 새 학문분야의 이름을 만들었다. 이 이름은 그리스어 ‘가족’에서 따온 것으로 말 그대로 자연이라는 가족 구성원들의 관계에 대해 연구하는 학문을 의미했다. 각 생물집단을 더 이상 고립된 존재가 아니며 이들 간의 관계가 중요한 연구대상으로 부상한 것이다.

예를 들어 질소순환과정을 들 수 있다. 대기중 80%의 질소는 번개의 공중방전과 질소고정박테리아에 의해 고정되어 질산염으로 동식물의 먹이가 되어 생체의 일부가 된다. 이들 생물이 죽으면 다시 여러 박테리아에 의해 분해되어 질소는 대기와 토양으로 돌아간다.

1875년 지질학자 쥐스(E. Suess)는 생물이 생활하는 ‘생활권’ 개념을 도입하고, 1920년 벨나즈키는 생물권을 질소순환, 탄소순환, 물순환과 같이 생물과 환경간의 상호작용이 일어나는 영역으로 구체화시킨다. 1935년 영국 생태학자 탠즐리는 생물과 환경 간에는 불가분의 관계가 있으며 이들이 상호 얽혀있는 것을 ‘생태계(ecosystem)’로 규정했다. 생태계는 왜 다양한 모습을 지니며 어떻게 살아가기에 적합한 자기조절능력을 가지게 되었을까? 이에 대해 1980년대 가이아이론의 논쟁부터 오늘에 이르기까지 활발한 환경문제의 논의가 이어져왔다.

3) 진화적 게임이론

1930년 피셔는 다윈의 진화론을 게임 이론과 결합시켜 ‘진화적 게임이론’을 펼쳤다. 이 이론은 수학적 게임이론과 생물학의 만남을 통해 개체들의 상호작용을 이해하고 지평을 열었다. 그런데 최근에는 생물종의 협력과 진화 뿐 아니라 다양한 사회 경제계의 협력과 진화를 설명하는 도구로 확장되었다.

<반복적 죄수의 딜레마 게임> 

한 판으로 끝나는 죄수의 딜레마 게임에선 무조건 배신하는 것이 개개 죄수로서는 최선의 전략이지만 반복적 죄수의 딜레마 게임에서는 다른 전략을 가진 가상의 많은 죄수끼리의 맞대응을 반복할 때 이기적으로 배신하는 전략은 매우 나쁜 성적을 내는 반면 이타적으로 협력을 추구하는 전략은 더 나은 성적을 보였다. 이로서 그는 다윈이 주장한 진화론의 수수께끼를 설명할 수 있다고 보았다. 진화론에선 자연선택에서 살아남기 위해 이기적 행동에 골몰하는데 어떻게 생태계나 사회에서 나타나는 이타적 행동이 여기에서 발전할 수 있었을까?

  로버트 액설로드(Robert Axelrod)는 협동을 설명하는 이론을 제시했다. 그 중 가장 대표적인 것이 '맞대응(Tit for Tat)' 전략이다. 이 전략의 묘미는 '눈에는 눈, 이에는 이'라는 단순성에 있다. 우리말로는 '맞대응' 정도로 번역할 수 있는데, 팃포탯은 아주 단순한 3단계 전략으로 이루어진다. 맞대응 전략은 '첫째, 일단 협력한다. 둘째, 상대방이 배신하면 응징한다. 셋째, 상대방이 다시 협력하면 용서하고 협력 전략으로 복귀한다'는 세 가지 행동원리를 따른다.

  이 전략적 단순성은 상대방에게 쉽게 간파 당할 수 있지만, 별 문제가 되지 않는다. 오히려 상대방이 내가 맞대응 전략을 쓸 것이라는 점을 인지하게 하는 것이 맞대응 전략의 목표이기도 하다. '나에게 협력하라, 그렇지 않고 이기적인 선택을 할 경우 나는 가차없이 보복할 것이다'라는 메시지는 상대방에게 협력의 선택을 강요하는 강력한 규제가 된다.

3. 현대복잡계 이론의 문턱

1) 전체를 바라보기 :시스템 이론의 등장

열역학 제2법칙은 닫힌 시스템일 때는 설명이 가능하다. 그러나 생명현상과 같이 환경(외부)와의 끊임없는 에너지를 주고 받을 때에는 열린 시스템이 필요하다. 여기서 나온 것이 시스템이론이다. 여기서 말하는 시스템이란 “상호작용하는 개체 또는 개체군으로 이루어진 총체”를 의미한다.

시스템이론은 다양한 방향으로 나아갔는데 1960년대 이후 4C이론이 등장했다. 사이버네틱스(cybernetics), 파국이론(catastrohe theory), 혼돈이론 (chaos theory), 복잡계이론(complex theory)이 그것이다. 한편 사회학 분야에서는 독일 사회학자 루만(Lumann)이 개척한 사회학적 체계이론(sociological systems theory)가 있다. 이는 사회내 소통구조에 주목하여 각종 제도와 조직의 구성과 진화를 설명하고 있다.

2) 사이버네틱스과 자기조직화의 인식

사이버네틱스라는 용어는 키잡이를 의미하는 그리스어 kybernetes에서 유래했는데 살아있는 생물체나 복잡한 기계에서 보이는 자가규제 ·시스템에 대해 연구하는 학문분야를 지칭한다.  예) 인간과 동물의 무의식적 체온유지 메커니즘 또한 제2차대전 전후하여 사이버네틱스는 중요한 연구조류로 떠올랐다. 적의 비행기를 격추시키는 방공시스템이 그것이다. 이는 비행기의 경로를 예측하여 능동적으로 반응하여 사격방향을 수정하는 시스템이다. 미국 수학자 위너는 2차대전시 이 시스템 연구에 가담하였고 <사이버네틱스: 동물과 기계에서 제어와 통신>을 출간하기로 했다. 1950년에는 <인간의 인간적 이용:사이버네틱스와 사회>에서는 사이버네틱스이론을 인간사회로 확장하여 인간조직들과 자동화 기계 사이에 어떤 유사성이 있는지 제시했다.

또한 사이버네틱스는 신경계모형에도 접목 발전되었다. 영국 정신과 의사인 애슈비(R Ashby)는 뇌를 수많은 신경이 복잡한 그물망을 이루며 전기신호를 전달하는 회로와 같이 모형화했다. 그는 복잡계 핵심 용어인 ‘자기조작화(self organization)란 용어를 그의 논문 “자기조직화하는 동력학 시스템의 원리(1947)”에서 최초로 사용했다.

3) 파국이론과 단절적 변화

파국이론(catastrophe theory)은 우리가 사는 세계에서 관찰되는 급격한 변화를 어떠한 안정상태들 사이의 급격한 전이로 보고 이를 수학적으로 뒷받침하는 이론이다. 이 이론은  프랑스 수학자 톰이 1972년 <구조적 안정성과 형태발생>이라는 책을 냄으로써 세상에 알려지기 시작했다.

예) 공산주의체제에서 자본주의체제로 전환되는 과정

두 체제를 구분하는 기준을 경제, 정치적 자유의 관점에서 볼 때 공산주의는 둘 다 낮고 자본주의는 둘다 높다. 먼저 경제적 자유를 높인 상황에서 정치적 자유를 높이면 점진적으로 이념의 전환이 이루어진다. 그 사례가 중국이다. 반면 경제자유가 낮은 상황에서 정치자유를 높이면 파국이 온다. 1989년 동유럽에서 공산체제가 연쇄적 붕괴된 것이 그 예이다.

그러나 파국이론은 단절적 변화를 설명해줌으로써 1970-80년대에 주목을 받았으나 이런 변화들이 안정된 평형상태를 따라 나아간다는 점에서 그 한계를 보여주었다. 1980년 혼돈이론이 등장하면서 우리는 안정된 평형상태로 가지 않고서도 다양한 다이내믹스를 갖는 상황이 도처에 있음을 알게 되었다. 결국 파국이론은 이러한 현상을 설명할 수 없었고 그 자리에 혼돈이론과 복잡계이론에 의해 보완되어 갔다.