在牛頓的全部科學貢獻中,數學成就占有突出的地位。他數學生涯中的第一項創造性成果就是發現了二項式定理。據牛頓本人回憶,他是在1664年和1665年間的冬天,在研讀沃利斯博士的《無窮算術》時,試圖修改他的求圓面積的級數時發現這一定理的。
笛卡你的解析幾何把描述運動的函數關系和幾何曲線相對應。牛頓在老師巴羅的指導下,在鉆研笛卡爾的解析幾何的基礎上,找到了新的出路。可以把任意時刻的速度看是在微小的時間范圍里的速度的平均值,這就是一個微小的路程和時間間隔的比值,當這個微小的時間間隔縮小到無窮小的時候,就是這一點的準確值。這就是微分的概念。
求微分相當于求時間和路程關系得在某點的切線斜率。一個變速的運動物體在一定時間范圍里走過的路程,可以看作是在微小時間間隔里所走路程的和,這就是積分的概念。求積分相當于求時間和速度關系的曲線下面的面積。牛頓從這些基本概念出發,建立了微積分。
微積分的創立是牛頓最卓越的數學成就。牛頓為解決運動問題,才創立這種和物理概念直接聯系的數學理論的,牛頓稱之為“流數術”。它所處理的一些具體問題,如切線問題、求積問題、瞬時速度問題以及函數的極大和極小值問題等,在牛頓前已經得到人們的研究了。但牛頓超越了前人,他站在了更高的角度,對以往分散的努力加以綜合,將自古希臘以來求解無限小問題的各種技巧統一為兩類普通的算法——微分和積分,并確立了這兩類運算的互逆關系,從而完成了微積分發明中最關鍵的一步,為近代科學發展提供了最有效的工具,開辟了數學上的一個新紀元。
牛頓沒有及時發表微積分的研究成果,他研究微積分可能比萊布尼茨早一些,但是萊布尼茨所采取的表達形式更加合理,而且關于微積分的著作出版時間也比牛頓早。
在牛頓和萊布尼茨之間,為爭論誰是這門學科的創立者的時候,竟然引起了一場軒然大波,這種爭吵在各自的學生、支持者和數學家中持續了相當長的一段時間,造成了歐洲大陸的數學家和英國數學家的長期對立。于是,英國數學在一個時期里閉關鎖國,過于拘泥在牛頓的“流數術”中停步不前,因而數學發展整整落后了100年。
應該說,一門科學的創立決不是某一個人的業績,它必定是經過多少人的努力后,在積累了大量成果的基礎上,最后由某個人或幾個人總結完成的。微積分也是這樣,是牛頓和萊布尼茨在前人的基礎上各自獨立的建立起來的。
1707年,牛頓的代數講義經整理后出版,定名為《普遍算術》。他主要討論了代數基礎及其(通過解方程)在解決各類問題中的應用。書中陳述了代數基本概念與基本運算,用大量實例說明了如何將各類問題化為代數方程,同時對方程的根及其性質進行了深入探討,引出了方程論方面的豐碩成果,如:他得出了方程的根與其判別式之間的關系,指出可以利用方程系數確定方程根之冪的和數,即“牛頓冪和公式”。
牛頓對解析幾何與綜合幾何都有貢獻。他出版的《解析幾何》中引入了曲率中心,給出密切線圓(或稱曲線圓)概念,提出曲率公式及計算曲線的曲率方法。并將自己的許多研究成果總結成專論《三次曲線枚舉》。此外,他的數學工作還涉及數值分析、概率論和初等數論等眾多領域。