十四至十六世纪在欧洲历史上是从中世纪向近代过渡的时期，史称文艺复兴时期。中世纪束缚人们思想的宗教观、神学和经院哲学逐步被摧毁，出现了复兴古代科学和艺术的文化运动。在自然科学方面，如哥伦布地理上的大发现、哥白尼的日心说、伽利略在数学物理上的创造发明等革命性事件相继发生。

这一时期，在数学中首先发展起来的是透视法。艺术家们把描述现实世界作为绘画的目标，研究如何把三维的现实世界绘制在二维的画布上。他们研究绘画的数学理论，建立了早期的数学透视法思想，这些工作成为十八世纪射影几何的起点。其中最著名的代表人物有：意大利的达芬奇(LeonardodaVinci)、阿尔贝蒂(LeoneBattistaAlberti)、弗朗西斯卡(PierodellaFrancesca)、德国的丢勒(AlbrechtDurer)等。

文艺复兴时期更出版了一批普及的算术书，内容多是用于商业、税收测量等方面的实用算术。印度─阿拉伯数码的使用使算术运算日趋标准化。L·帕奇欧里(Pacioli)的《算术、几何及比例性质之摘要》(Summadearithmetica，geometrica，proportionietproportionalita，1494)是一本内容全面的数学书；J·维德曼(Widman)的《商业速算法》(1489)中首次使用符号「+」和「-」表示加法和减法；A·里泽(Riese)于1522年出版的算术书多次再版，有广泛的影响；斯蒂文(SimonStevin)的《论十进》(1585)系统阐述了十进分数的理论。

代数学在文艺复兴时期获得了重要发展。最杰出的成果是意大利学者所建立的三、四次方程的解法。卡尔达诺在他的著作《大术》(Arsmagna，1545)中发表了三次方程的求根公式，但这一公式的发现实应归功于另一学者塔尔塔利亚(Tartaglia)。四次方程的解法由卡尔达诺的学生费拉里(Ferrari)发现，在《大术》中也有记载。稍后，邦贝利(Bombelli)在他的著作中阐述了三次方程不可约的情形，并使用了虚数，还改进了当时流行的代数符号。

符号代数学的最终确立是由16世纪最著名的法国数学家韦达(Viete)完成的。他在前人工作的基础上，于1591年出版了名著《分析方法入门》(Inartemanalyticamisagoge)，对代数学加以系统的整理，并第一次自觉地使用字母来表示未知数和已知数，使代数学的形式更抽象，应用更广泛。韦达在他的另一部著作《论方程的识别与订正》(Deaequationumrecognitioneetemendatione，1615)中，改进了三、四次方程的解法，还对n=2、3的情形，建立了方程根与系数之间的关系，现代称之为韦达定理。

在文艺复兴时期，三角学也获得了较大的发展。德国数学家雷格蒙塔努斯(Regiomontanus)的《论各种三角形》(Detriangulisomnimodis)是欧洲第一部独立于天文学的三角学著作。书中对平面三角和球面三角进行了系统的阐述，还有很精密的三角函数表。哥白尼的学生雷蒂库斯(GeorgeJoachimRhaeticus)

文艺复兴时期在文学、绘画、建筑、天文学各领域都取得了巨大的成就。数学方面则主要是在中世纪大翻译运动的基础上，吸收希腊和阿拉伯的数学成果，从而建立了数学与科学技术的密切联系，为下两个世纪数学的大发展作了准备。