世界四大古文明之一——美索不达米亚文明又名两河文明，出现在公元前3500年，是在幼发拉底河和底格里斯河流域发展出来的文明，“美索不达米亚”就是古希腊语“两条河中间的地方”的意思。美索不达米亚文明约在公元前3100年诞生了楔形文字，它是世界上最古老的文字之一。楔形文字并不是用笔写在纸上，而是用削尖的芦苇把文字刻在黏土制成的软泥板上，放在阳光下烘干变硬后保存。数字也是用楔形文字记录的，由于大量和数字计算相关的泥板出土自古巴比伦时期，因此美索不达米亚数学通常被称为巴比伦数学。
我们今天的时间单位所使用的60进制和平面几何中360度圆周的定义，都可以追溯到古巴比伦时期使用的六十进位制，60可以被1、2、3、4、5、6、10、12、15、20、30、60等多个数字整除，便于开展除法运算，这也体现了巴比伦数学当时领先世界之处。根据出土的泥板可以得知，巴比伦数学采用的是位值制记数法，也就是同一个数字符号可以用在不同的位置上来表示不同的数值，写在左侧的数字代表更大的值，今天我们使用的十进制系统也是如此，可能这和泥板上刻字不易、必须追求简练有一定关系。在巴比伦数学中，小数也采用六十进位制，小数点后第一位表示60分之一（而不是我们现在熟悉的十进制表示的十分之一），第二位表示3600分之一，以此类推。出土的泥板里还发现了古巴比伦人制作的“倒数表”，它是巴比伦数学里做除法计算的重要基础，如果要除一个数，其实就相当于乘以这个数的倒数，再进一步做出通分等计算。例如，古巴比伦人计算“1÷13”的办法是，因为1/13=7/91，约等于7/90，而7/90可以写成280/3600，就能按巴比伦小数表达，最终写成4/60+40/3600。不过，巴比伦人没有发明小数点符号，现代人只能根据泥板整体内容推断数字的位值。现代在解读巴比伦泥板上的数字时，为了研究方便，在表述里通常将整数和小数部分用分号隔开，每一位的小数再用逗号隔开。
在耶鲁大学图书馆收藏的古巴比伦泥板中，有一块编号为YBC7289，大约制作于公元前1800年至公元前1600年，在它上面刻着一个带有两条对角线的正方形，还刻着两组楔形数字，其中一组用现代数字可以写作1；24，51，10，将它从六十进位制换算成十进制，表示的是305470/216000，约等于1.414213，是2的算数平方根具有7位准确数字的近似值；另一组可以写作42；25，35，换算后表示的是30547/720，约等于42.426，近似于边长为30的正方形的对角线长度。它所展现的3600年前的计算精确度，令现代人惊叹不已。
古巴比伦人还能够解一元一次方程和多元一次方程组，不过由于巴比伦数学里还没有负数的概念，所以对求解结果只采用正根，这些方程问题都是用于解决现实应用而设的，比如修建蓄水池计算尺寸、购买粮食计算价格等等。有意思的是，在巴比伦泥板的“应用题”里，有一道计算六个兄弟分家的题目，要求分得的财产按等差数列递减，给出的解法是把财产等同于一个直角三角形的面积，将这个三角形分割成六部分，每份面积递减，所对应的就是每人应分得的财产。这不仅体现了数形结合的思想萌芽，也和两河流域诞生的世界最早的法律条文《汉谟拉比法典》中的财产分配法条相对应，体现了数学在维护社会稳定方面的重要性。
