公元前 6 世紀的一天，古希臘數學家毕达哥拉斯路過一間打铁铺，听到铁块被锤子敲打时发出的悦耳声音。于是，他跑进打铁铺对锤子进行分析，发现那些音调和谐的锤子之间存在一种简单的数学关系 —— 它们的质量彼此成简单比例。具体来说，质量分别是某把锤子的一半、三分之一、四分之一的锤子，都能发出和谐的声音。另一方面，那些与其他锤子一起敲打时总是发出噪音的锤子，它的重量与其他锤子之间不存在这种简单的整数比例关系。毕达哥拉斯在琴弦上重复了这一实验，并得出了相同的发现：当琴弦被分成的两段长度是简单整数之比时，琴弦能发出更悦耳的声音。音调的和谐竟是由整数的比例决定的！这一发现给毕达哥拉斯带来了很大的启发。后来，他把行星的运动也归结为整数的比例。基于这些发现，毕达哥拉斯宣称：万物皆数，即整个世界都可以用整数或整数的比例来解释。这成为他及其领导的毕达哥拉斯学派的信条。他们的这一观念在几何学中表现为：任何两条线段都是可公度的。这里先对这个陌生的概念进行解释。设两条线段长度分别为 a 和 b，如果可以找到一个长度为 d 的小线段，使 a 可以分成 d 的某个整数倍，比如 n 倍，即 a = nd；同时使 b 可以分成 d 的另一个整数倍，比如 m 倍，即 b = md，此时，就称线段 a 和 b 是可公约或可公度（d就是两者的共同度量单位）。事实上，用我们熟悉的语言来说就是，任意两条线段长度的比是整数或一个分数。
这一非常符合常识和直觉的结论，似乎是无可怀疑的，而且在当时也被古希腊人普遍接受。转折点始于毕达哥拉斯证明勾股定理之后。毕达哥拉斯的一个学生希帕索斯在研究老师的著名成果时，想到这样一个问题：正方形的对角线和边长这两条线段是否可公度呢？经过认真的思考，希帕索斯意外地发现这两条线段不存在共同的度量单位：无论度量单位取得多小，都不可能成为正方形的边与对角线的共同度量单位。一句话，正方形的边和对角线是不可公度的！或者说，正方形对角线与边长的比（即我们所熟知的 ）既不是一个整数，也不是分数，而是当时人们完全不了解的全新数。对于毕达哥拉斯及其学派来说，这一发现完全是致命的，它彻底推翻了他们的数学和哲学信条。据传说，希帕索斯因为把这一发现泄露出去，被毕达哥拉斯的信徒扔进大海里淹死了。
在希帕索斯之后，人们发现了许多与 一样的数。后来，这类数被统称为“无理数”，而人们原来接受的数（整数或整数的比）被称为“有理数”。而“有理”和“无理”的术语在古希腊人那里原意是指“可比的”和“不可比的”。在后来转译的过程中，除了“可比的”这个含义之外，还衍生出了“有理（合乎情理）”和“无理（不合情理）”的意思。再后来，中国在转译时就将其译成了“有理数”和“无理数”，大家也不太知道它们原来的意思是“可比数”与“不可比数”了。