17세기, 수학의 빅뱅
16세기까지 수학은 주로 방정식을 푸는 것에 집중되어 있었습니다. 그런데 17세기에 들어서면서 완전히 새로운 질문들이 등장했어요.
포탄은 어떤 궤적으로 날아가는가. 행성은 왜 타원 궤도로 움직이는가. 곡선으로 둘러싸인 도형의 넓이는 어떻게 구하는가. 순간의 속도는 어떻게 계산하는가.
이 질문들에 답하려면 기존의 수학으로는 부족했어요. 완전히 새로운 도구가 필요했습니다. 그 도구가 바로 미적분(calculus)이에요.
그리고 이 도구를 누가 먼저 만들었느냐를 둘러싸고 역사상 가장 치열한 수학 논쟁이 벌어졌습니다.
뉴턴 — 페스트가 만들어낸 천재

아이작 뉴턴(Isaac Newton, 1643~1727년)은 영국 링컨셔의 작은 농가에서 태어났습니다. 미숙아로 태어나 살아남기 어렵다는 말을 들었지만, 84세까지 살았어요.
케임브리지 대학교에서 공부하던 뉴턴에게 예상치 못한 사건이 찾아왔습니다. 1665년, 런던을 중심으로 흑사병이 퍼지면서 대학교가 문을 닫은 거예요. 뉴턴은 고향으로 돌아가 약 2년을 보내야 했습니다.
이 2년이 수학의 역사를 바꿔놓았어요.
고향에서 홀로 연구를 거듭하던 뉴턴은 이 기간 동안 미적분의 핵심 아이디어를 만들어냈습니다. 빛의 분산 현상을 발견했고, 만유인력의 법칙도 이 시기에 구상했어요. 뉴턴 스스로 이 시절을 "내 인생에서 발명에 가장 왕성했던 시기"라고 회고했습니다.
유율법 — 뉴턴의 미적분
뉴턴은 자신의 미적분 방법을 유율법(method of fluxions)이라고 불렀습니다. 변화하는 양, 즉 흐르는 양을 다루는 방법이라는 뜻이에요.
뉴턴의 핵심 아이디어는 이것이었습니다. 어떤 양이 변화할 때, 그 순간의 변화율을 계산할 수 있다는 것이에요. 예를 들어 달리는 자동차의 특정 순간의 속도처럼요.
속도계가 가리키는 숫자는 그 순간의 속도인데, 이것을 수학적으로 어떻게 정의할 수 있을까요? 속도는 거리를 시간으로 나눈 것인데, "순간"의 시간은 0이잖아요. 0으로 나누는 것은 불가능한데 말이에요.
뉴턴은 시간 간격을 0에 가깝게 무한히 줄여나가는 방식으로 이 문제를 해결했습니다. 극한(limit)의 개념이에요. 이것이 미분의 핵심입니다.
그런데 뉴턴은 이 발견을 바로 발표하지 않았습니다. 완벽하게 다듬을 때까지 기다리겠다는 생각이었어요. 그의 원고는 수십 년 동안 서랍 속에 잠들어 있었습니다.
라이프니츠 — 다른 길로 같은 곳에 도달한 천재

고트프리트 빌헬름 라이프니츠(Gottfried Wilhelm Leibniz, 1646~1716년)는 독일 라이프치히 출신의 수학자이자 철학자입니다. 철학, 법학, 신학, 수학을 넘나드는 백과사전적 지식인이었어요.
라이프니츠는 뉴턴과는 독립적으로, 완전히 다른 접근 방식으로 미적분을 개발했습니다. 1675년경에 핵심 아이디어를 완성하고, 1684년에 이것을 논문으로 발표했어요.
뉴턴이 1660년대에 미적분을 개발했으니 시간상으로는 뉴턴이 먼저예요. 하지만 발표는 라이프니츠가 먼저였습니다.
라이프니츠의 탁월한 기호
라이프니츠의 미적분이 뉴턴 것보다 훨씬 널리 퍼진 이유가 있습니다. 바로 기호 체계가 훨씬 뛰어났기 때문이에요.
라이프니츠는 미분을 $\frac{dy}{dx}$로, 적분을 $\int$로 나타냈습니다. 이 기호들은 직관적이고 계산하기 편리했어요. 지금 우리가 수학 시간에 쓰는 미적분 기호가 바로 라이프니츠가 만든 것입니다.
반면 뉴턴의 기호는 점 표기법($\dot{x}$)을 사용했는데, 복잡한 계산에는 불편했어요. 영국은 오랫동안 뉴턴의 기호를 고집했고, 덕분에 19세기 초까지 유럽 대륙의 수학에 뒤처지는 결과를 낳기도 했습니다.
세기의 표절 논쟁

처음에는 별 문제가 없었습니다. 뉴턴과 라이프니츠도 서로를 인정했어요. 그런데 1700년대에 들어서면서 영국과 유럽 대륙의 수학자들 사이에 감정이 쌓이기 시작했고, 결국 폭발했습니다.
영국 수학자들이 주장한 것은 이것이었어요. 라이프니츠가 1676년 런던을 방문했을 때 뉴턴의 미발표 원고를 보았고, 그것을 바탕으로 미적분을 개발했다는 거예요.
라이프니츠 측은 강력히 부인했습니다. 자신은 독립적으로 발견했다고 주장했죠.
1712년, 영국 왕립학회가 조사위원회를 구성해 이 문제를 조사했습니다. 그런데 이 위원회는 처음부터 공정하지 않았어요. 위원장이 사실상 뉴턴 본인이었거든요. 결과는 당연히 뉴턴의 손을 들어줬습니다.
라이프니츠는 1716년 세상을 떠날 때까지 표절 의혹을 벗지 못했고, 장례식에는 그의 비서 한 명만 참석했다고 전해집니다.
오늘날 역사학자들의 결론은 이렇습니다. 뉴턴과 라이프니츠는 독립적으로, 서로 다른 방식으로 미적분을 발견했다. 우선권은 뉴턴에게, 발표와 기호 체계의 공은 라이프니츠에게 있다.
미적분이 바꾼 세상
미적분의 탄생이 왜 그렇게 중요한 걸까요?
뉴턴은 미적분을 이용해 행성의 운동을 수학적으로 완벽하게 설명했습니다. 케플러가 관측으로 발견한 행성의 타원 궤도를 뉴턴은 미적분으로 증명해냈어요. 수학과 물리학이 하나로 합쳐지는 순간이었습니다.
이후 미적분은 물리학, 공학, 경제학, 생물학 등 거의 모든 학문의 언어가 되었어요.
전기와 자기 현상을 설명하는 맥스웰 방정식, 열의 흐름을 다루는 열역학, 파동을 분석하는 방정식, 현대 금융에서 옵션 가격을 계산하는 블랙-숄즈 공식까지 모두 미적분 위에 세워져 있습니다.
여러분이 지금 쓰는 스마트폰, 타는 비행기, 보는 TV까지 미적분 없이는 존재할 수 없어요.
두 천재가 남긴 유산
뉴턴과 라이프니츠의 논쟁은 수학의 역사에서 가장 안타까운 사건 중 하나입니다. 두 사람 모두 위대한 발견을 했는데, 논쟁으로 인해 서로의 업적을 깎아내리는 데 에너지를 낭비했으니까요.
하지만 그들이 남긴 미적분은 수학의 역사를 이전과 이후로 나눌 만큼 혁명적인 도구였습니다. 인류가 자연의 언어를 이해하는 방식을 완전히 바꿔놓았어요.
다음 편에서는 미적분 이후 폭발적으로 성장한 18~19세기 수학을 다룹니다. 오일러, 가우스, 그리고 기존 수학의 틀을 깨버린 비유클리드 기하학의 탄생이 기다리고 있어요.
수학의 역사 시리즈는 계속됩니다. 좋아요와 구독으로 다음 편을 놓치지 마세요!