2010.8.26 (목) 서양 철학사 세미나 『수학의 몽상』 5장 오 신 명

5장. 수학화된 세계의 꿈

17세기에 나타난 서구의 근대 과학혁명은 자연을 수학화하는 것을, 다시 말해 자연과 세계에서 나타나는 모든 현상을 계산 가능한 것으로 만드는 것을 꿈꾸었다.

특히 뉴턴은 미적분학의 방법을 이용해 갈릴레이가 발견한 지상의 운동법칙과 케플러가 발견한 천상의 운동법칙을 하나의 법칙으로 통합할 수 있었다. 미적분학이 가지는 논리적 모순(어떤 수가 0인 동시에 0이 아니라는 것)에도 불구하고 천문학이나 물리학, 역학 등에서 그것 없이는 아무것도 할 수 없을 정도로 그것은 중요한 수단이었다.

켈큐러스의 시대

미적분학을 바탕으로 해서 성립한 새로운 수학 전체를 보통 해석학이라고 부른다. 18세기에 해석학은 대수학이나 기하학이라는 전통적인 분야와 별도로 독립적인 영역을 획득 수학의 왕좌를 차지했다. 그런데 19세기에 접어들면서, 이 해석학의 기초가 매우 취약하다는 것이 나타났다.

계산 가능한 세계를 향하여

‘계산가능성’에 대한 추구는 근대 이후 서구 과학 전체를 특징짓는 방향이었고, 지급도 모든 과학자들이 추구하고 추종하는 방향이다. 수학과 무관해 보이는 것에서 수학적 관계를 찾고, 수가 아닌 것을 수로 환원하려는 것이 ‘계산가능성을 추구 한다’는 말의 참뜻이다. 이러한 사고가 불확실한 것의 계산을 목표로 하는 확률이나 통계학이 생기게 한 것이다. 함수라는 개념 역시 변수들 간의 관계를 ‘계산 가능한 것’으로 만드는데 매우 효과적이다.

이념적 수학 혹은 수학의 이념

계산가능성의 추구라는 서수 근대의 근본적인 방향은 수학이나 과학이라고 불리는 영역에 제한되지 않았다. 데카르트는 이러한 방향이 천문학, 음악은 물론 모든 학문으로 확장될 수 있으리라고 생각했다. 그는 수학을 단지 학문의 하나의 특수한 분과가 아니라, 모든 학문을 포괄하는 학문의 체계이며 모든 학문의 공통된 연구방법이라고 정의했다. 즉 “순서와 척도에 의해 연구되는 모든 것은 수학에 속하는 것”이라는 것이다. 이러한 수학을 그는 ‘보편수학’이라고 불렀다. 보편수학은 모든 것을 숫자와 계산의 질서아래 포괄하려는 ‘수학의 이념’이요 이상이다.

17~18세기의 수학의 네 가지 축

첫째, 그리스 이래 서구 수학의 전통적 모태가 되었던 ‘기하학’이 있었다. 그것은 점과 직선, 면, 그리고 삼각형과 원, 각도와 비례 등으로 우주의 형상과 질서를 파악하는 가장 근원적인 토양이었다. 고향, 영토, 모태, 대지, 근원, 이런 식의 단어가 바로 서구 수학에서 기하학의 위치를 표시해 준다. 즉 기하학은 서양의 모든 수학의 고향이요 기원이며 모태였다.

둘째, 전통적으로 수학의 또 하나의 축이었던 ‘대수학’이 있었다. 수와 연산, 식, 방정식 등이 그 영역에서 다루어지는 전통적인 주제를 표시했다. 17세기에 이르러 기하학적 특징이 대수학적 요소로 바뀌게 된다. 이러한 시도에서 가장 중요한 것은 이제 어떠한 것도 숫자로 바꿀 수 있으며, 그것을 통해 비교하고 계산할 수 있다는 발상이 다른 모든 영역으로 확장될 수 있게 되었다는 사실일 것이다.

세 번째 축인 보편수학은 하나의 이념적 수학으로서, 모든 것을 수학적 질서로 배열하고 체계화하는 방법이었다. 이는 숫자라는 대수학적인 코드에 의해 변환되고 번역된 기호에 따라 모든 것을 분류하고 배열하는 방법이었고, 그에 따라 모든 것을 하나의 질서로 체계화하려는 꿈이요, 이상이기도 했다.

마지막으로, 전적으로 17세기의 새로은 창안물인 미적분학과, 그것의 발전으로서의 ‘해석학’은 17~18세기 수학적 사유의 공간을 만드는 또 하나의 축이다. 그것은 함수로 표시되는 어떤 하나의 식을, 다른 종류의 식으로 변환시키고, 어느 하나의 식에서 다른 하나의 식을 파생시켜내는 수학적 방법과 기술이다. 변환과 파생이 이 축에서 수행하는 독자적인 작업이다. 근대 수학의 놀랍고도 강력한 능력은 사실 미적분학 없이는, 해석학 없이는 결코 생각핼 수 없는 것이었다.

17세기 수학적 공간의 배치

                               보편수학

보편수학의 이념

                    ---> ①

대수학 <--------------------------------------- 기하학

                   --- > ②

                            해석학

보편수학의 이념이 지배적인 한, 기하학의 대수화는 보편수학을 향한 이 화살표에 쉽사리 포섭된다. ①번 화살표는 17세기 수학에서 가장 중요한 방향 가운데 하나를 표시한다. 이와는 다른 ②번 화살표에서 17~18세기 수학의 또 하나의 중요한 방향을 표시한다. 이는 기하학을 대수화함으로써 새로운 계산의 영역 속에 넣고는, 그것을 미적분학의 강력한 변환능력과 파생기술을 이용해 다른 식으로 끊임없이 변환시킨다.

보편수학의 꿈은 18세기에 이르면 급속히 약화되고, 그 결과 보편수학적 세계의 꿈은 다양한 영역으로 수학적 계산 기술을 확장하려는 꿈으로 변형된다.

반면 미적분학의 강력한 변환능력은 대수학을 거쳐 해석학으로 이어지는 ②번 선에 극도로 풍요로운 생산적 힘을 제공했고, 이로 인해 해석학의 마술적인 손은 가능한 모든 것을 건드리며 다채로운 변환의 경로를 만들어 냈다.