数学是随着天文学与测量术而发展的，它在中国科学中是最完全独立发展的部门。大概在春秋战国时期就产生了数学，如别墨派遗留在《墨经》上的记载，就包含了若干几何学的定义和定理，如（一）平面的定义，（二）等长线段的求法，（三）圆的中心在于距圆周同长的点上，（四）圆至其中心同长，（五）不平行的二直线必相交，（六）正方形四边相等，四角相等，等等。又别墨派及公孙龙言论中都说过“一尺之棰，日取其半，万世不竭”的话，可以看出表示无限等比级数的概念。
清修《四库全书》时，戴东原所校订的“算经十书”，是现存的最古算书，这十种书是：
一、《周髀算经》 是前汉末至后汉初出现的，相传是周朝的书。
二、《九章算术》 是后汉时代出世的，相传为周公所作，其中载有分数、最大公约数的求法、百分法、开平方、开立方的算法，一次联立方程式的解法。
三、《海岛算经》 是测量术的书籍，著者是魏时的刘徵。刘徵对《九章算术》也作了注解，注解中包含根据几何学而解二次方程的方法，开平方立方之小数计算，圆面积并圆周的算法，角锥体的体积算法等。
四、《孙子算经》 三国末期出现。
五、《五曹算经》 亦三国末期的书。
六、《夏侯阳算经》 南北朝末期的书。
七、《张邱算经》 南北朝末期的书。
八、《五经算术》 北周甄鸾著。
九、《数术记遗》 题名汉徐岳撰，疑是甄鸾伪记。
十、《辑古算经》 相传为唐人王孝通作。
我国圆周率发明很早，前汉末年刘歆即使用过，经过后汉的张衡，魏的刘徵，到南齐祖冲之，乃定圆径比圆周为113：355，圆周率在3.1415927与3.1415926之间，这是五世纪时世界最精密的圆周率。
唐宋间算学没有什么进步。宋元间则有秦九韶的《数学九章》，李治的《测圆海镜》、《益古演段》，朱世杰的《算学启蒙》、《四元玉鉴》等书。
我国很早发明的算木计算法，一直支配到元朝。李治的“天元术”（一元高次方程），朱世杰的“四元术”（四元方程）均用算木代表未知数。这种器械的代数学，到明代已不能再发展，于是算盘代替了算木的地位而普及起来。“九九歌诀”也随着出现。
欧洲人利玛窦等及我国科学开创者徐光启等将欧洲的《几何原本》、《八线表》等介绍到中国来，当时并没有为我国算学家所直接采用，到清初，才因这种影响而有符号的代数学之产生，而有梅氏兄弟的历法与算学的专著出现（梅文鼎著书八十余种，包含代数及三角等，开始用笔算演算），清圣祖御制的《律历渊源》和《数理精蕴》，也包含欧洲的历学与数学。