十四至十六世纪在欧洲历史上是从中世纪向近代过渡的时期，史称文艺复兴时期。中世纪束缚人们思想的宗教观、神学和经院哲学逐步被摧毁，出现了复兴古代科学和艺术的文化运动。在自然科学方面，如哥伦布地理上的大发现、哥白尼的日心说、伽利略在数学物理上的创造发明等革命性事件相继发生。

这一时期，在数学中首先发展起来的是透视法。艺术家们把描述现实世界作为绘画的目标，研究如何把三维的现实世界绘制在二维的画布上。他们研究绘画的数学理论，建立了早期的数学透视法思想，这些工作成为十八世纪射影几何的起点。其中最著名的代表人物有：意大利的达.芬奇﹝Leonardo da Vinci﹞、阿尔贝蒂﹝Leone Battista Alberti﹞、弗朗西斯卡﹝Piero della Francesca﹞、德国的丢勒﹝Albrecht Durer﹞等。 文艺复兴时期更出版了一批普及的算术书，内容多是用于商业、税收测量等方面的实用算术。印度─阿拉伯数码的使用使算术运算日趋标准化。L.帕奇欧里﹝Pacioli﹞的《算术、几何及比例性质之摘要》﹝Summa de arithmetica, geometrica, proportioni et proportionalita, 1494﹞是一本内容全面的数学书；J?维德曼﹝Widman﹞的《商业速算法》﹝1489﹞中首次使用符号「+」和「-」表示加法和减法；A.里泽﹝Riese﹞于1522年出版的算术书多次再版，有广泛的影响；斯蒂文﹝Simon Stevin﹞的《论十进》﹝1585﹞系统阐述了十进分数的理论。

代数学在文艺复兴时期获得了重要发展。最杰出的成果是意大利学者所建立的三、四次方程的解法。卡尔达诺在他的著作《大术》﹝Ars magna，1545﹞中发表了三次方程的求根公式，但这一公式的发现实应归功于另一学者塔尔塔利亚﹝Tartaglia﹞。四次方程的解法由卡尔达诺的学生费拉里﹝Ferrari﹞发现，在《大术》中也有记载。稍后，邦贝利﹝Bombelli﹞在他的著作中阐述了三次方程不可约的情形，并使用了虚数，还改进了当时流行的代数符号。

符号代数学的最终确立是由16世纪最著名的法国数学家韦达﹝Viete﹞完成的。他在前人工作的基础上，于1591年出版了名著《分析方法入门》﹝In artem analyticam isagoge﹞，对代数学加以系统的整理，并第一次自觉地使用字母来表示未知数和已知数，使代数学的形式更抽象，应用更广泛。韦达在他的另一部著作《论方程的识别与订正》﹝De aequationum recognitione et emendatione, 1615﹞中，改进了三、四次方程的解法，还对n = 2、3的情形，建立了方程根与系数之间的关系，现代称之为韦达定理。

在文艺复兴时期，三角学也获得了较大的发展。德国数学家雷格蒙塔努斯﹝Regiomontanus﹞的《论各种三角形》﹝De triangulis omnimodis﹞是欧洲第一部独立于天文学的三角学著作。书中对平面三角和球面三角进行了系统的阐述，还有很精密的三角函数表。哥白尼的学生雷蒂库斯﹝Georg Joachim Rhaeticus﹞在重新定义三角函数的基础上，制作了更多精密的三角函数表。

文艺复兴时期在文学、绘画、建筑、天文学各领域都取得了巨大的成就。数学方面则主要是在中世纪大翻译运动的基础上，吸收希腊和阿拉伯的数学成果，从而建立了数学与科学技术的密切联系，为下两个世纪数学的大发展作了准备。