小數點，作為表示十進位小數的符號，是與小數聯繫在一起的。不過，你也許不知道，小數點的出現比小數晚了上千年之久呢。
從理論上看，小數就是十進分數。比如，3.14表示的其實是早在公元3世紀，中國數學家劉徽就已引進了十進分數。劉徽對十進分數（小數）的表示方法很繁瑣，如3.1415926表示為三丈一尺四寸一分五厘九毫二秒六忽。這種處理是對不同的小數位引入了不同的名稱，類似於把2.35元表示為2元3角5分。
到了宋、元時期，小數概念在中國得到進一步普及，同時出現了幾種表示小數的新方法。其中一種採用了小數部分降一格的辦法，如3.1415926表示為三一四一五九二六。
在西方，小數出現得很晚。對此做出重要貢獻的是荷蘭數學家斯泰芬。在《論十進位》中，他第一次明確闡述了小數理論，並給出了小數的記法。比如，3.1415用他的記法可表示為其中，符號放在數的個位數字後面，把整數部分與小數部分分隔開;符號①放在十分位數字後，標記它前面的數字是第一位小數;符號②放在百分位後，標記它前面的數字是第二位小數;其他的符號依此類推。
在斯泰芬之後，小數在歐洲很快得到普及，但他笨拙的記法壽命卻很短。作為一種簡化，有人引入小數分隔號，然後在小數的最後一位用符號標出小數的位數。其實，用一些符號來表示小數的位數與順序是沒有必要的。意識到這一點的人採用了更為簡捷的方式。一種方式是讓小數部分升一格，如將3.1415926表示為3^1415926，這與中國宋、元時期的做法非常類似。
更常用的做法是：把小數部分與整數寫在同一條線上，只是用一個符號將整數與小數部分分隔開。不過，不同人引入的分隔號往往不同。有的用一條豎線作為分隔號，比如，把3.1415表示為3| 1415。對數的發明人納皮爾則在17世紀使用了我們所熟知的小數點". "做分隔號。
但在之後幾百年裡，小數分隔符號仍然非常混亂。到19世紀末，還有各種不同的小數記法。例如，2.5可表示為：2′5、2°5、2▲5……現在，世界各國小數點的寫法也沒有完全統一，但主要剩下兩種，一種是德、法等歐洲國家用的“,”;另一種就是中、美等國用的“.”。
事實上，許多現代使用的簡捷優美的數學符號，經歷了與小數點類似的漫長且複雜的演變過程。在數學發展過程中，曾經有各式各樣的記號被引入並混雜使用，然後經過長時間的反覆篩選、淘汰，不方便的記號被廢棄，最終得以保留下來的成為了現在國際通用的數學符號。