윤암의 세상 살아가는 이야기

참고문헌

• 김영식, 임경순, 『과학사신론』(다산출판사, 1999).
• Richard S. Westfall, Never and Rest: A Biography of Isaac Newton (Cambridge: Cambridge University Press, 1980).
• Thomas L. Hankins, Science and the Enlightenment (Cambridge: Cambridge University Press, 1985).

라플라스 프로그램의 흥망

라플라스

보편 중력의 문제를 검증하기 위해 발전했던 삼체 문제에 관한 논의는 라플라스 에 이르러 그 정점에 이르렀다. 라플라스는 1798년부터 1827년에 이르기까지 오랜 세월에 걸쳐 5권의 책으로 된 방대한 저작인 『천체역학』(Mécanique céleste)을 출판했다. 뉴턴 역학의 결정판으로 일컬어지는 이 책에서 라플라스는 모든 행성이 지니는 고유의 불규칙성은 뉴턴의 역제곱 법칙을 유지한 채로 장기적인 주기적 불규칙성으로 설명이 가능하다는 것을 증명했다. 이로써 뉴턴의 역제곱 법칙은 그 유효성이 분명히 유지되었으며, 태양계의 안정성을 분명히 설명함으로써 뉴턴 역학이 지니는 결정론적 세계관에 확고한 토대를 마련해 주었다.

뉴턴역학을 바탕으로 천체역학의 문제를 완벽하게 해결한 라플라스는 천체역학을 넘어선 문제에도 이 뉴턴주의를 적용하려는 체계적인 프로그램을 진행시켰다. 라플라스는 베르톨레 와 함께 열, 빛, 전기, 자기, 모세관현상, 화학적 친화력 등의 다양한 현상들을 물질입자 내지 ' 무게가 없는 입자 '들과 그것들 사이의 인력과 척력과 같은 근거리 힘을 사용해서 수학적으로 설명해내려는 웅대한 계획을 추진했다. 이 계획은 라플라스 프로그램이라는 이 계획은 나폴레옹의 적극적인 후원 속에서 진행되었다. 당시 나폴레옹은 과학을 프랑스 문화국민의 탁월성을 과시하는 중요한 요소로 생각했으며, 자기 자신도 수학, 과학에 많은 관심을 가지고 있었다.

라플라스 프로그램을 정력적으로 추진하던 대표적 라플라스주의자로는 비오, 푸아송 등을 들 수 있다. 1820년 비오는 사바르 (Félix Sarvart)와 함께 흐르는 전류에 의해 발생하는 자기장의 세기가 뉴턴 의 중력의 법칙과 유사하게 도선으로부터의 거리에 제곱에 반비례함을 발견했던 과학자였다. 라플라스와 라그랑주 밑에서 공부했으며 평생 그들과 절친한 관계를 유지했던 푸아송도 1811년 그 후로 오랫동안 역학 분야의 표준 이론으로 자리를 잡게 되는 『역학론』 (Traité de méchanique)이라는 방대한 책을 출판한 당대의 대학자였다. 그는 천체역학에 관한 라플라스와 라그랑주의 작업을 지속적으로 발전시켰을 뿐 아니라 모세관 현상과 정전기 현상에 대한 이론적 작업을 전개했다. 1812년 확률 분포에 관한 논의를 전개했던 라플라스와 마찬가지로 푸아송도 확률론에 많은 관심을 지니고 있었다. 푸아송은 1837년에는 확률에 관한 책을 출판했는데, 여기에서 그는 표본의 수가 아주 많은 때 적용되는 푸아송의 분포에 관한 법칙을 처음으로 언급했다.

19세기초 프랑스 과학을 지배하며 엄청난 영향을 미치던 라플라스 프로그램은 나폴레옹이 몰락한 1815년 이후 10년 동안 서서히 몰락해 나갔다. 라플라스 프로그램의 몰락과 함께 나타났던 과학 사상의 변화로는 빛의 파동설 부각, 새로운 전자기학과 열역학 부상, 또한 콩트의 실증주의 부상 등을 들 수 있다. 실험적 전통 속에서 발전하던 다양한 분야가 수학화되면서 라플라스식 뉴턴주의의 한계도 동시에 발현된 것이다. 당시에 라플라스 물리학에 대한 반역을 주도한 인물은 공교롭게도 푸리에, 뒬롱, 프티(Alexis-Thérère Petit), 아라고, 프레넬 등과 같이 주로 에콜 폴리테크니크 에서 라플라스주의 물리학을 배웠던 젊은 사람들이었다.

이집트학자, 행정가, 수리물리학자인 푸리에 는 1822년 『열 해석론』 (Théorie analytique de la chaleur)을 집필한 과학자였다. 이 책에서 그는 칼로릭 이론과 훗날 푸리에 급수로 알려지게 되는 무한 수열 분석 방법을 사용해서 고체에서 열이 전도되는 이론을 정립했다. 1819년 프티 와 함께 원자량을 결정하는 데 매우 유용한 비열 법칙을 발견한 뒬롱 도 뉴턴 의 냉각 이론이 지니는 문제점을 지적하면서 라플라스 프로그램에 비판을 가했다. 프레넬 은 영국의 토머스 영 (Thomas Young, 1773-1829)과 함께 빛에 대한 파동론을 전개하여 광학 분야에서 새로운 지평을 열었다. 아라고 는 프레넬의 파동 이론을 옹호하였고, 프레넬과 함께 편광 빛의 간섭 현상에 대한 연구를 하여 편광 현상에 대한 이해를 높여 주었다. 간섭 현상은 빛의 입자론으로는 설명하기 힘든 현상이었기 때문에 19세기를 통해 뉴턴의 입자론은 그 영향력을 상실하고 빛의 파동론이 물리학계를 지배하게 된다.

푸아송

라플라스 프로그램이 쇠퇴하자, 비오 는 잠시 파리 과학계에서 은퇴하였다가 1835년 편광면의 회전 현상을 다루면서 빛에 관한 뉴턴 의 해석에서 멀어졌다. 마지막까지 라플라스 프로그램을 옹호한 철저한 라플라스주의자는 푸아송 이었다. 하지만 그는 프랑스 과학계에서 점점 고립되어 갔고, 푸아송의 몰락과 함께 라플라스 프로그램은 완전한 자취를 감추게 되었던 것이다. 라플라스 프로그램은 몰락해갔지만, 19세기 초 10여년에 걸쳐 집요하게 추진된 이 프로그램이 19세기 과학의 방향에 미친 영향을 엄청나게 컸다. 이 프로그램이 진행되는 동안 고전 역학 체계는 그 발전이 절정에 달하였고, 광학, 열역학, 전자기학 등 그 동안 경험에 입각한 실험 과학의 영역에 있던 분야가 급속도로 수학화·이론화되었다. 결과적으로 라플라스 프로그램은 20세기에 들어서서 강력한 위력을 발휘하게 되는 이론물리학이 출현하는 데 분명한 초석이 되었다고 할 수 있다.

한편 아일랜드에서는 라플라스의 천체역학 전통이 새롭게 부상하던 광학과 결합하여 새로운 동역학 체계가 발전되었다. 라플라스의 천체역학에 탐닉했던 아일랜드 수리물리학자인 해밀턴 (William Rowan Hamilton, 1805-1865)은 동역학과 광학을 통일적인 관점에서 새롭게 논의했다. 그는 1820년대에서 1830년대에 이르는 작업을 통해 페르마 (Pierre de Fermat, 1601-1665)에 의한 논의된 '최단 시간의 원리'(principle of least time)를 보다 일반적인 관점에서 다룸으로써 뉴턴 역학과 광학을 통일적으로 이해하는 데 이바지했다. 해밀턴은 프레넬이 시작한 복굴절에 대한 논의를 더욱 발전시켰으며, 일반 동역학에 관한 논의를 통해 위치와 운동량의 이중성을 나타내는 일반적인 동역학 방정식을 도출해냈다. 하지만 해밀턴의 정준 방정식(canonical equation)은 그 해법이 무척 힘이 들었다. 야코비 (Karl Gustav Jacob Jacobi, 1804-1851)는 해밀턴 방정식과 같은 형태의 방정식을 더욱 일반적이고 유용한 형태로 발전시켜 많은 사람들은 이 방정식을 역학의 문제를 해결하는 데 기본적인 방정식으로 활용하게 되었다. 해밀턴-야코비 방정식 (Hamilton-Jacobi equation)라고 불리는 이 방정식은 훗날 슈뢰딩거 의 파동역학 이 출현하게 만드는 데 커다란 역할을 했다. 해밀턴의 동역학 논의에서 위치와 운동량의 이중성이 차지하는 중요성에 대해서는 많은 사람들의 관심 밖에 있었지만, 마찬가지로 이 관계는 1세기가 지난 뒤에 양자역학이 출현되면서 그 숨은 진가가 발휘되어 양자역학의 기본 구조를 이해하는 기본 관계식으로 부상되었던 것이다.

프랑스 과학의 제도화와 뉴턴주의의 발전

제도적인 차원에서 볼 때 유럽에서 뉴턴주의가 전파되는 데에는 프랑스를 중심으로 했던 과학아카데미 운동 이 커다란 역할을 했다. 18세기를 통해서 프랑스에서는 과학아카데미의 회원수가 증가하면서 활발한 과학 활동을 전개했다. 과학아카데미의 학술 활동이 활발해지면서 파리뿐만이 아니라 지방에도 아카데미가 생겨나 1760년에는 그 수가 무려 60여개에 이르게 되었다. 이들 지방 아카데미는 중앙의 파리 과학아카데미의 지방 분회 형식으로 밀접한 연결을 맺으면서 활동했다.

프랑스 이외의 유럽의 다른 나라에서도 18세기를 통해 과학아카데미가 계속 만들어져 뉴턴 과학의 확산을 도왔다. 프로이센에서는 베를린 아카데미 가 설립되었고, 오일러 의 노력에 의해서 러시아에는 페테르부르크 아카데미 가 만들어졌다. 이외에도 여러 스칸디나비아 국가에서도 과학아카데미가 만들어졌는데, 파리의 과학아카데미는 이들 아카데미의 학술 활동에서 구심적인 역할을 했다.

쿨롱

과학아카데미 이외에도 프랑스에서는 정부가 지원하는 많은 과학 관련 기관들이 존재했다. 예를 들어, 천문대 , 경도국 (Bureau des Longitudes), 성인교육 기관인 콜레주 드 프랑스 (Collège de France) 등은 모두 정부의 지원 아래 과학자들이 아주 활발한 연구 활동을 전개했던 기관들이었다. 특히 프랑스에는 그랑제콜 (Les Grandes Écoles)이라는 고등교육기관이 속속 설립되면서 아주 높은 수준의 과학기술 연구가 진행되었다. 포병 및 공병학교(École de l'Artillerie et du Génie), 광산학교 (École des Mines), 토목학교 (École des Ponts et Chaussées) 등은 모두 프랑스가 자랑하던 그랑제콜의 그 대표적인 예이다. 특히 토목학교는 토목공학의 출현에 결정적인 역할을 했으며, 당시 유명한 과학자들 가운데에는 토목공학자가 많았는데, 전기 및 자기 연구로 유명한 쿨롱 (Charles-Augustin de Coulomb, 1736-1806)도 토목공학자였다.

고전역학은 최초의 전문적인 공학 교육기관이었던 에콜 폴리테크니크 (École Polytechnique)의 설립과 함께 더욱 세련되게 발전하면서 새로운 변신을 꾀하게 된다. 18세기말의 프랑스 대혁명 기간 동안 교육제도 개혁을 위한 노력의 일환으로 여러 전문 교육 기관이 생겨났다. 무엇보다도 1794년 전문 기술교육을 목적으로 창립된 에콜 폴리테크니크는 뉴턴주의 과학과 수리과학의 발전에 커다란 영향을 미쳤다. 개교 당시 400명의 학생으로 출발한 에콜 폴리테크니크에서는 당대 일류의 과학자들이 교수진이 되어 학생들에게 과학과 수학 분야에서 아주 조직적이고 체계적인 교육을 실시했다. 라플라스 (Pierre-Simon Laplace, 1749-1827), 화법기하학을 창시한 가스파르 몽주 (Gaspard Monge, 1746-1818), 라그랑주 , 베르톨레 (Comte Claude-Louis Berthollet, 1748-1822), 결정학자 아위 (René Just Haüy, 1743-1822) 등은 모두 당시 이 새롭게 창립된 에콜 폴리테크니크의 교수들이었다. 에콜 폴리테크니크는 수많은 우수한 과학기술자들을 배출하면서 그 동안 수리과학과는 다른 전통 속에서 성장해온 경험과학 분야를 수학화시키고 뉴턴 과학을 고도로 발전시키는 데 기여했다. 푸아송 (Siméon-Denis Poisson, 1781-1840), (Jean-Baptiste Biot, 1774-1862), 푸리에 (Joseph Fourier, 1768-1830) 뒬롱 (Pierre-Louis Dulong, 1785-1838), 아라고 (François Arago, 1786-1853), 프레넬 (Augustin-Jean Fresnel, 1788-1827), 카르노 (Sadi Carnot, 1796-1832), 게이뤼삭 (Joseph-Louis Gay-Lussac, 1778-1850) 등 19세기 초 프랑스 과학계를 이끌었던 대부분의 우수한 과학자들이 바로 이 에콜 폴리테크니크 출신이었다.

뉴턴주의 과학의 수용과 주요 논쟁들

뉴턴 의 『프린키피아』 가 출판되었을 당시 데카르트주의의 영향을 강하게 받고 있었던 프랑스 학계에서는 뉴턴의 과학에 대해 아주 적대적이었다. 또한 당시의 국제 정치적 상황도 뉴턴의 사상이 영국과 프랑스 사이의 해협을 건너는 데에 장애가 되었다. 1713년 스페인 계승 전쟁이 마무리되고 위트레히트 조약이 체결되면서 국제정치가 어느 정도 안정을 되찾았다. 이 결과로 영국과 프랑스 사이의 학술 교류가 허용되었고, 이에 따라 뉴턴의 과학이 프랑스에도 퍼질 수 있는 정치적 조건도 마련되었다.

위트레히트 조약 체결 이후의 시기에도 프랑스에서는 퐁트넬 (Bernard Le Bovier, sieur de Fontenelle, 1657-1757) 등과 같은 학자들이 데카르트주의를 계속 옹호했었다. 하지만 말브랑슈 (Nicolas Malebranche, 1638-1715)와 그의 추종자들은 데카르트 철학의 요새의 첫 장벽을 붕괴하여 1730년 이후 모페튀 (Pierre-Louis Moreau de Maupertuis, 1698-1759), 클레로 (Alexi Clairaut, 1713-1765), 볼테르 (Voltaire, 1694-1778) 등의 급진적 뉴턴주의자들의 출현을 가능하게 해주었다.

볼테르

정치적 사건에 연류가 되어 영국에서 망명 생활을 한 뒤 귀국한 볼테르는 프랑스에 돌아와 일반인들을 상대로 뉴턴 역학을 소개하는 데 많은 정열을 바쳤다. 그가 집필한 『뉴턴철학의 요소들』 (Éléments de la philosophie de Newton)은 프랑스에서 일반지식인들을 대상으로 뉴턴에 관해 씌어진 최초의 책이었다. 볼테르는 뉴턴 역학을 프랑스 사회에 소개함으로써 18세기 계몽사조의 확산에 커다란 역할을 했다. 볼테르의 동거 애인이었던 샤틀레 부인 (Madame du Châtelet, l706-1749)은 『프린키피아』를 프랑스어로 훌륭하게 번역했다. 1731년 아카데미 회원이 된 모페튀는 곧 열렬한 뉴턴주의자가 되어 뉴턴 철학의 확산에 커다란 역할을 했다. 그는 1744년 고전역학의 문제를 변분법 과 관련된 일반 법칙으로 공식화한 ' 최소작용의 원리 '를 천명하였고, 1850년 『우주론 에세이』(Essai de cosmologie)에서 이에 대한 체계적인 논의를 다루었다.

모페튀 탐사대의 측량도

뉴턴의 과학이 프랑스로 전파되면서 뉴턴의 과학을 입증하기 위한 다양한 논쟁이 벌어졌다. 18세기에 뉴턴의 보편중력 이론을 확증하려는 시도는 대략 두 가지 방향에서 이루어졌다. 제일 먼저 터져 나온 논쟁은 지구의 형태와 관련된 것이었다. 당시 데카르트의 소용돌이(vortex) 이론에 의하면 지구는 대체로 구형이지만 적도 지방이 극 지방에 비해 보다 평평해야만 했다. 반면에 뉴턴의 이론은 적도 지방보다는 극 지방이 평평하다는 것을 지지하고 있었다. 이들 둘 사이의 논쟁은 영국과 프랑스의 자존심을 건 일종의 국가적 논쟁이었다. 프랑스로 뉴턴 역학이 수용된 이후인 1732년 모페튀와 클레로는 데카르트의 주장이 아니라 뉴턴의 견해를 옹호하였고, 이것이 프랑스 내에서 국가적으로 커다란 논란이 되었다. 프랑스 정부는 1730년대를 통해 극지방과 적도지방의 거리를 정확히 측정하기 위한 일련의 지구 측정 탐사 를 계획했는데, 이런 일련의 탐사 작업의 결과로 뉴턴의 이론이 확증되게 되었던 것이다.

달의 운동과 핼리 혜성의 운동에 관한 것도 뉴턴 역학의 유효성을 둘러싸고 벌였던 대표적인 논쟁이었다. 1747년 클레로는 달의 불규칙성을 설명하기 위해서는 뉴턴의 역제곱 항 이외에도 역 4승의 항이 추가되어야 한다고 주장했다. 뉴턴의 역제곱 법칙의 유효성에 대한 비판이 등장하자, 파리, 베를린, 페테르부르크 아카데미 는 앞을 다투어 이와 연관된 문제를 현상 경쟁(Prize competition)에 올렸다. 이 현상 경쟁에는 장 달랑베르 (Jean Le Rond d'Alembert, 1717-1783), 오일러 (Leonhard Euler, 1707-1783), 라그랑주(Joséph Louis Lagrange, 1736-1813) 등이 당대의 천재적인 학자들이 참가했다. 이 현상 경쟁은 오일러와 달랑베르 등 많은 탁월한 수학자들이 아카데미 회원이 되는 등용문의 역할을 하였는데, 이를 통해 해결하기 난해한 삼체 문제를 비롯한 천체역학의 계산 테크닉이 비약적으로 발전하는 계기가 되었다.

1741년에 아카데미 회원이 된 달랑베르는 1743년 26세의 나이로 ' 달랑베르의 원리 '가 포함되어 있는 『동역학론』 (Traite de dynamique)을 출판했다. '달랑베르의 원리'란 뉴턴의 운동 제2법칙을 변형한 것으로서 동역학의 문제를 마치 정역학적 문제로 변형시켜 일발적인 해법을 구할 수 있다. 동역학 이외에 그는 유체역학에 대한 논의도 전개했으며, 여기서 그는 편미분 방정식의 발전에 크게 기여하였다. 스위스 바젤 태생의 오일러는 베를린 아카데미 와 페테르부르크 아카데미에서 활동했던 수학자이자 물리학자였다. 18세기에는 뉴턴의 영향을 받아 대부분의 과학자들이 빛에 대한 입자론을 선호했지만, 오일러는 당시로서는 드물게 호이헨스의 파동설을 받아들였던 사람이었다. 오일러 역시 다른 아카데미 회원들과 마찬가지로 태양, 지구, 달 사이에 작용하는 삼체 문제를 다루면서 달의 운동에 관한 더욱 완벽한 이론을 발전시켰다.

라그랑주

오일러의 해석 역학적 방법을 계승하여 더욱 발전시킨 사람은 라그랑주 였다. 라그랑주는 지구에서 바라보는 달의 표면 모습의 위치가 약간씩 변화하는 달의 칭동 (libration)에 관한 시론으로 1764년 파리 과학아카데미로부터 상을 받았다. 프랑스 혁명 직전인 1788년 라그랑주는 변분법 을 이용해서 뉴턴 이래의 역학에 대한 연구를 집대성한 『해석역학』 (Méchanique analytique)을 출판했다. 이 책에서 그는 좌표계의 선택에서 독립된 '일반화된 좌표'를 이용해서 오늘날 우리가 고전역학계를 위한 라그랑주 방정식 (Lagrangian Equation)이라고 부르는 해석학적인 역학 방정식을 발전시켰다. 결국 역학의 난제 가운데 하나인 삼체 문제를 해결하기 위한 모페튀, 달랑베르, 오일러, 라그랑주 등의 탁월한 수리과학자들의 노력으로 뉴턴의 고전역학은 고도의 해석적인 도구를 갖춘 역학으로 발전하게 되었던 것이다.

뉴턴의 생애와 과학

뉴턴 (Isaac Newton, 1642-1727)은 율리우스력으로는 1642년 12월 25일, 신력으로는 1643년 1월 4일 영국 소지주의 유복자로 태어났다. 뉴턴의 어머니는 생후 2년 만에 재가해서 그의 곁을 떠났고, 그는 할머니의 손에 의해 길러졌다. 이리하여 뉴턴은 그의 의붓아버지가 죽어서 어머니가 다시 그에게 돌아올 때까지 9년 동안 어머니와 떨어져 지냈다. 어린 시절의 이런 모성 결핍이 그의 심리적 성장 과정에 커다란 영향을 미쳤다고 한다. 즉, 논문을 발표할 때마다 그가 보인 심리적 불안감과 그를 비판하는 사람들에 대해서 그가 보여주었던 지극히 비이성적이고 격렬한 반응 등은 어린 시절의 모성 결핍에서 기인한 것으로 여겨진다는 것이다.

헨리 모어

1661년 뉴턴은 케임브리지 대학의 트리니티 칼리지에 입학했는데, 이때를 즈음해서 그는 과학혁명 과정에서 근간이 되는 다양한 생각에 접하게 되었다. 우선 그는 데카르트의 기하학과 기계적 철학, 가상디의 원자론, 보일의 화학을 공부했으며, 케임브리지 플라톤주의자 헨리 모어 (Henry More, 1614-1687)를 통해 연금술사와 마술사들이 주로 믿었던 신비주의 사상인 헤르메티시즘 도 접했다. 뉴턴이 평생 연금술에 많은 관심을 가지고 있었고, 원격작용에 의한 힘인 보편중력을 생각해내게 된 데에는 신플라톤주의 와 헤르메티시즘 사상이 부분적으로 영향을 미쳤다. 1665년 흑사병으로 대학이 문을 닫게 되어 뉴턴은 그 뒤 2년 동안 고향에 내려가 있었는데, 이 기간 동안 미적분학, 색깔에 관한 이론, 역제곱 법칙 등 훗날 자신의 주요 업적을 이룩하는 데 기본 바탕이 되는 핵심적인 생각을 하게 된다.

뉴튼의 반사망원경(1671년) 직경 2.5cm 금속거울 사용

1669년 케임브리지 대학에서 루카스좌 수학교수 (Lucasian professor of Mathematics)가 된 뉴턴은 광학에 대해서 강의했다. 이때부터 그는 이미 빛이 단색광이 아니라 혼합광으로 이루어져 있다고 생각했다. 무엇보다도 그는 이 시기에 굴절망원경과는 다른 방식의 반사망원경 을 발명해서 학계에서 과학자로서도 명성을 분명하게 쌓게 되었다. 1672년 빛과 색깔에 관한 논문을 왕립학회에 발표한 뉴턴은 당시 왕립학회에서 영향력이 있던 후크 (Robert Hooke, 1635-1703)와 격한 논쟁을 벌였다. 후크와 벌인 논쟁 이후 뉴턴은 외부와 관계를 끊고 격리 생활을 하면서 헤르메티시즘과 연금술과 같은 신비주의 전통의 학문에 탐닉하기도 했다.

초판 표지

핼리

1679년 경 뉴턴은 행성 운동과 연관하여 역제곱 법칙을 언급하는 편지를 후크로부터 받았다. 뉴턴은 이 편지를 받고 이런 내용이 자신이 젊었을 때 가졌던 생각과 유사하다고 느꼈고, 이 역제곱 법칙을 행성운동을 해결하는 데 본격적으로 이용할 생각을 하게 된다. 당시 핼리 (Edmond Halley, 1656-1742)는 후크와 함께 역제곱 법칙을 이론적 바탕으로 해서 행성의 운동을 해결하려고 하고 있었다. 하지만 그들은 이 작업을 성공시킬 수 없었다. 뉴턴이 역제곱 법칙을 바탕으로 해서 행성의 운동 문제를 해결했다는 소문에 접한 핼리는 1684년 8월 케임브리지의 뉴턴을 방문했다. 핼리는 뉴턴의 이 '발명'을 보다 분명히 하기 위해 이것을 작은 책으로 출판하도록 뉴턴 권유했다. 핼리의 권유를 받은 뉴턴은 처음에는 『운동에 관해서』라는 작은 논문을 쓸 생각이었다. 하지만 왕립학회로부터 출판 약속을 받은 뒤 뉴턴은 이보다 더 긴 분량의 책을 집필하기로 마음먹었다. 그 뒤 18개월 동안 집필에 전념한 뉴턴은 1687년 고전역학의 완성판이라고 불리는 『자연철학의 수학적 원리』(Philosophiae Naturalis Principia Mathematica), 혹은 『프린키피아』 라는 3권의 책을 출판하게 되었다.

1686년 왕립학회에 『프린키피아』 제 1권의 완성된 원고가 접수되었을 때, 후크는 뉴턴이 자신의 생각을 표절했다고 주장했다. 아마도 당시 쇠락해가던 후크로서는 뉴턴이 자신의 책에서 후크도 역제곱 법칙에 관한 생각을 했다는 사실만을 인용해주는 정도로도 만족했었을 것이다. 하지만 광학에 관한 글에서 후크와 격렬한 논쟁을 한 쓰라린 경험이 있었던 뉴턴은 이 정도의 아량도 보여주지 않았다. 후크의 표절 주장에도 불구하고 뉴턴은 자신의 원고를 계속 집필해갔으며, 심지어 자신의 원고에서 후크에 대한 거의 모든 인용을 삭제해버렸다. 후크에 대한 뉴턴의 분노는 이에 그치지 않았다. 뉴턴은 후크가 죽기 전까지는 자신이 이미 집필한 광학에 관한 책을 출판하지 않았으며, 왕립학회의 회장직도 받아들이지 않았다.

『프린키피아』 초판은 라틴어로 씌어진 510쪽 분량의 방대한 책이었다. 이 책에서 뉴턴은 마치 에우클레이데스의 저서인『원론』의 책 형식처럼 운동에 관한 논의를 정의, 공리, 법칙, 정리, 보조정리, 명제 등으로 분류해서 체계적이고 이론적으로 전개하고 있다. 제 1권은 진공 중의 입자의 운동을 다룬 책이다. 이 책의 처음 부분에는 관성의 법칙, 힘과 가속도에 관한 뉴턴의 운동 법칙, 작용-반작용의 법칙 등 뉴턴의 유명한 운동의 3법칙이 등장하고 있다. 뉴턴은 이 운동의 3법칙과 역제곱의 힘을 바탕으로 삼체 문제를 위시한 다양한 물체의 운동에 대해서 기술했다. 제 2권은 유체역학 분야에 해당하는 것으로 저항이 있는 매질 내의 운동을 다루고 있다. 나중에 틀린 이론으로 판명된 이 책의 내용에서 뉴턴은 소용돌이 운동의 원심력에 의해서 행성의 운동을 설명했던 데카르트의 이론을 간접적으로 반박하고 있다. 제 3권은 천체 역학에 관한 내용이다. 여기서 뉴턴은 경험 법칙이었던 케플러의 법칙을 역제곱에 비례하는 힘을 가정함으로써 증명하고, 이를 바탕으로 지구의 세차운동, 달의 운동의 불규칙성, 조석운동, 혜성의 운동 등을 기하학적으로 설명했다.

뉴턴의 『프린키피아』는 출판과 동시에 굉장한 성공을 거두었다. 하지만 이 책은 복잡한 기하학적 서술로 되어 있었기 때문에 전문 학자들도 읽기 힘든 대단히 어려운 책이었다. 더구나 대륙에서는 '인력'이라는 개념이 문제가 되었다. 인력과 척력과 같이 원격 작용에 의한 힘 개념은 당시에 주로 연금술사나 마술사들이 쓰던 용어였는데, 특히 데카르트 철학의 영향 아래에 있던 곳에서는 이런 원격작용에 의한 힘을 인정한 뉴턴 역학에 대해서 강한 반발을 보였다. 아무튼 이 책은 학계에 커다란 충격을 주었을 뿐만 아니라 뉴턴에게 국제적 명성을 가져다주게 되었다.

학문적인 활동 이외에도 뉴턴은 1696년부터 조폐국에서 일하면서 위조지폐 방지에 커다란 역할을 했다. 조폐국에서 일하던 뉴턴이라는 존재는 당시 런던의 위조지폐범들에게 공포의 대상이었으며, 실제로 그가 재직하던 동안 수많은 위조지폐범들이 교수대로 보내졌다. 뉴턴의 과학은 신학과도 밀접한 관련을 맺고 있었다. 만년에 뉴턴은 성경의 해석에 관심을 가지고 다니엘과 요한의 예언서를 해석했는데, 이 저작들은 오랫동안 비밀로 내려오다가 뉴턴이 죽은 지 한참 뒤에야 출판되었다. 뉴턴은 라이프니츠와 미적분학 발견의 우선권을 놓고 치열한 논쟁을 벌인 것으로도 유명하다. 처음에는 추종자들의 부축임에 못 이겨서 시작한 논쟁이 이성을 잃어버리는 추잡한 싸움으로 변했다. 결국 이 둘 사이의 싸움은 두 사람이 죽으면서 끝나게 되었다.

『프린키피아』와 쌍벽을 이루는 뉴턴의 저작으로는 빛의 다양한 성질에 대해 논의한 『광학』 (Opticks, 1704)을 들 수 있다. 이 책은 1672년 경에 이미 거의 완성된 논문으로 1703년 왕립학회에서 힘이 있던 후크가 죽고 자신이 1703년 왕립학회의 회장이 된 다음 자신의 권위가 커질 때 출판한 것이었다. 수학적이고 이론적인 측면이 강했던『프린키피아』와는 달리 이 책은 실험적인 성격을 강하게 지녔다. 뉴턴은 이 책에서 빛을 입자로 보고, 새로운 실험 도구인 프리즘을 이용해서 빛의 반사, 굴절, 분산을 비롯해서 색에 대한 다양한 성질에 대해 연구했다.

이 책의 주요한 특징 가운데 하나로는 뉴턴은 이 책에서 데카르트와는 달리 색깔에 대한 거시적 현상만을 언급하고 미시적 메커니즘에 대해서는 논의하지 않았다는 것을 들 수 있다. 이런 태도는 그가 중력이 실제로 존재함을 강조하기 위해『프린키피아』에서 언급한 "나는 가설을 만들지 않는다"는 말로 연관시켜 생각할 수 있다. 뉴턴은 데카르트주의자들이 가정했던 빛에 대한 미시적 메커니즘은 그 존재론적 근거가 불충분하다고 생각했고, 따라서 자신은 실험적으로 분명히 입증할 수 있는 거시적인 메커니즘만을 논의하려 했던 것이다.

뉴턴의 과학 방법론을 한마디로 표현하지면 수많은 현상들 속에서 힘을 설정하고, 이것으로부터 수학적인 방법을 사용해서 그 현상을 다시 설명해내면, 그 힘은 존재한다는 것이다. 하지만 현상들로부터 힘을 도출하는 과정은 다분히 가상적, 상상적, 사색적인 측면이 강한 것으로 수많은 임의성이 존재했다. 실제로 『광학』의 질문(Query) 31번을 보면 뉴턴이 빛의 굴절과 힘의 관계, 다양한 화학물질에서 나타나는 여러 힘을 도출하려고 생각했다는 것을 알 수 있다. 이 부분에서 뉴턴이 시도했던 것은 뉴턴의 사후에 나타날 18세기의 과학의 모습에 굉장히 커다란 영향을 미쳤다. 예를 들어 조프루아 (Etienne-François Geoffroy, 1672-1731)가 집필한 『친화력 표』 (Affinity Table, 1718)에서 보여지는 화학적 친화력에 관한 논의는 뉴턴의 사색적 전통을 이어받아 전개한 것이었다. 무게가 없는 입자 를 가정한 칼로릭 이론이나 전기학, 자기학에서 역제곱 법칙을 도출하려고 노력했던 것도 모두 뉴턴의 영향을 받아 추진된 것이었다.

일단 도출된 힘으로부터 수학적으로 현상을 다시 얻어내는 과정은 경험적이고 사색적인 과정과는 상당히 다른 모습으로 발전했다. 이 둘 사이의 차이는 『프린키피아』와 『광학』의 차이를 반영한다고도 볼 수 있는데, 뉴턴에 의해서도 완전히 융합되지 않았으며, 뉴턴주의자들도 시기와 분야에 따라서 서로 다른 쪽을 강조했다. 따라서 18세기에 다양한 '인력'에 바탕을 둔 추측이나, 사색적 연구가 많이 나오는 한편에서는 해석역학 등과 같이 이론적이고 수학적인 성격이 강한 과학도 동시에 발전하게 되었다. 이런 이중적인 문제에도 불구하고 결과적으로 뉴턴의 과학방법론 을 따르는 18세기 뉴턴주의 과학은 내용이나 구체적인 방법상으로 영향을 주었을 뿐만이 아니라, 일반인들에게 "과학"이라는 단일한 이미지를 심어주는 데에도 커다란 역할을 했다. 즉 뉴턴의 과학은 많은 사람들에게 분야는 서로 다르더라도 단일한 방법, 관점 등으로 과학의 문제를 다룰 수 있다는 비전을 갖게 해주었던 것이다.