圆周率计算直径与周长之比,是一个使古代数学伤脑筋的问题。我国在《周髀算经》、《九章算术》中,已得出“径一周三”的圆周率近似值。刘徽创造了“割圆术”。系统而严格地用内接正多边形来求圆周率的近似值。他认为这个结果还可以继续算下去,当多边形无限增多时,多边形的面积之和就等于圆的面积。“割之弥细,所失弥少,割之又割,以至于不可割,则与圆合体而无所失矣。”(刘徽《九章算术注》)刘徽的“割圆术”,为圆周率的研究奠定了理论基础。祖冲之时古代伟大的科学家,在数学、天文历法、机械制造等方面都有突出的成就。在数学方面,他求出圆周率在3.1415926至3.1415927之间。祖冲之害用两个分数来表示圆周率,一个是355/113,叫做密率,一个是22/7,叫约率。德国的鄂图在1573年才达到这个水平,比祖冲之晚了一千多年,因而西方数学史专家提议将这一精确度的圆周率值命名为“祖率”。
至唐代末,在计算技术方面,传统的算筹备珠算所取代,宋元时期对珠算进行了很大的改进。算盘和珠算口诀对于实用数学的普及具有重要作用,这是当时世界上最先进的计算工具和计算方法。宋元时期我国还涌现了一批高水平的数学著作和著名的数学家,其中秦中韶、杨辉和朱世杰被誉为宋元数学四大家。他们的主要成就有高次方程及高次方程组的解法、二项式展开项系数三角形的研究、已知三边如何求三角形的面积等,达到了当时中国也是世界最先进的数学水平。