뉴턴·라이프니츠 동시 발견

프라고나르 '그네'

프랑스 화가 프라고나르의 작품 '그네'(사진)는 관능과 쾌락을 추구하는 그림이다. 하지만 이 그림에서 필자가 주목하는 것은 귀족과 애인의 밀회가 아니라 속옷까지 보이며 그네를 타는 여성이 슬리퍼를 떨어뜨리는 순간을 화가가 잘 포착해 묘사한 점이다. 18세기 그림에서 화가는 순간의 속도를 묘사했지만 수학자들은 순간의 속도인 미분계수를 생각한다.

1655년 옥스퍼드 대학 기하학 교수 윌리스(J Wallis)는 무한 개념을 도입한 저서 <무한산술>을 발표했다. 이는 뉴턴에게 영향을 줬고 미적분의 단서를 제공했다. 윌리스는 처음으로 무한대를 ∞로 기호화했고 무한을 수학의 대상으로 삼은 학자다.

고대 그리스인들은 원이나 원추곡선에 접선을 긋는 문제와 원추곡선으로 둘러싸인 면적을 구하는 문제를 전혀 별개의 문제로 여겼다. 반면 뉴턴과 라이프니츠는 곡선에 접선을 긋는 문제로부터 발달한 미분학과 곡선으로 둘러싸인 부분의 면적을 구하는 일부터 시작한 적분학 사이에는 밀접한 관계가 있음을 발견했다.

뉴턴의 미적분학이 유율법이라고 불리는 이유는 운동과 관련해 일어나는 속도와 가속도의 개념을 수학적 방법으로 창안했기 때문이다. 뉴턴은 한없이 커지는 양을 '유량'이라고 했는데 액체뿐만 아니라 연속적으로 변화하는 모든 양을 뜻하는 것이었다. 또 독립변수인 시간에 대한 유량의 변화율, 즉 흐름의 속도를 유율이라고 명명했다. 그런데 유율도 변화하는 것이므로 '유율의 유율', '유율의 유율의 유율' 등을 생각할 수 있으며, 이 또한 유율이 되는 것이다. 현재 우리가 알고 있는 '미분의 미분', '미분의 미분의 미분' 등인 것이다.

그의 유율법에서 가장 기본이 되는 수학문제는 연속운동에 관한 것이다. 운동체가 통과하는 거리를 알고 그 속도를 알아내는 것과 속도와 시간을 알고 운동체가 통과하는 거리를 알아내는 것이다. 이 둘은 미분과 적분의 역관계였다. 결국 뉴턴은 미적분법을 통해 17세기 초에 시작된 넓이와 부피를 구하는 구적 문제, 곡선의 길이를 구하는 문제, 접선을 구하는 문제를 종합적으로 분석해냈다.

뉴턴의 운동에 대한 연구는 관성의 법칙을 비롯해 <만유인력의 법칙>까지 끌어내는 쾌거를 이뤘다. 뉴턴은 운동, 시간, 빛 등의 물리적 보편성을 설명하는 법칙의 부호를 개발했고 결과적으로 서구 문명의 사고 패턴까지 합리적으로 바꿔 놓았다. 18세기에 서구 문명에서 중심적인 역할을 해오던 기독교의 자리를 과학이 대신하게 된 것이다. 뉴턴의 결정론은 확고해졌고 르네상스 시대부터 휴머니즘으로 고양되기 시작한 개인의 이성과 총명성, 새로운 자신감은 자만심으로 팽배해져 갔다.

뉴턴이 발견한 미적분법과 거의 동시에 독일에서는 라이프니츠가 미적분법을 독자적으로 발견했다. 뉴턴은 수학을 물리적 문제를 해결하기 위한 도구로 생각하면서 미적분법에 도달했지만 라이프니츠는 수학이 인간의 사유를 합리적으로 표현하는 <보편 수학>이라는 철학적인 바탕 위에서 미적분법을 정립했다. 뉴턴의 접근이 물리학적이었다면 라이프니츠의 접근은 기하학적이었다.

라이프니츠는 어릴 때부터 천재적인 어학력을 발휘해 20살에 법학박사 학위를 받았다. 그 후 그는 철학을 연구하다가 외교관직을 수행하기 위해 파리에 머물면서 자연철학자(물리학자) 호이겐스를 만나 수학에 눈을 뜨게 됐다. 그는 독학으로 파스칼, 페르마, 윌리스, 데카르트 등의 수학을 공부했고 1673년부터 4년 동안 미적분학을 발견하게 된다. 뉴턴의 유율법 발견은 1665~66년에 이루어졌고, 라이프니츠는 1674년에 미적분 관련 논문을 영국의 왕립학회에 보고했다. 사정이 이렇게 되자 협회는 '뉴턴이 이미 이 같은 사실을 발견했다'는 통지를 라이프니츠에게 했다. 하지만 기호가 편리했던 라이프니츠의 방법은 영국을 제외한 유럽 각국에 널리 퍼지게 됐고 영국의 어떤 수학자가 이를 시샘해 라이프니츠의 독창성를 부인하고 뉴턴의 결과를 표절한 것처럼 글을 발표했다. 흥분한 라이프니츠는 반박문을 발표했고 그 후 수학계는 걷잡을 수 없는 분쟁이 일어나면서 영국과 유럽 대륙과의 싸움으로 번지다가 1820년대에 들어서야 두 학자의 독자적인 발견이 공인받게 됐다. 이 두 거장의 업적은 철학에도 많은 영향을 끼쳤다. 뉴턴의 업적은 18세기 <경험철학>에, 라이프니츠의 업적은 <관념철학>에 뿌리를 내렸다.
김병현 부산종로학원 강사