天文望遠鏡按照光學結構不同，可以分為兩大類：折射式和反射式。最早的望遠鏡利用透明鏡片對光的折射作用來成像，這就是“折射望遠鏡”。伽利略首次用於天文觀測的折射望遠鏡就稱為“伽利略式”望遠鏡。折射望遠鏡存在多種像差，特別是一種叫作“色差”的像差可以說是折射望遠鏡的天生缺陷，它會把一個點變成一個色斑。當時減小色差的方法只有將焦距變長，於是人們製造了很多鏡身極長的折射望遠鏡，例如17世紀的著名天文學家赫維留斯製造的一架折射望遠鏡，長達40多米，使用起來十分不方便。
色差是由於玻璃對不同顏色光的折射率不同造成的。牛頓發現了完全克服色差的方法，即不讓光線在玻璃的內部產生折射，而是通過凹面鏡的反射來成像。據此牛頓設計出一種望遠鏡，後來稱為“牛頓式”望遠鏡，這種望遠鏡沒有用透明的玻璃片，而是用了一塊凹的球面反射鏡。球面反射鏡與透鏡一樣，也可以匯聚光線，用它製成的望遠鏡叫作“反射望遠鏡”。
牛頓曾經預言折射望遠鏡無法解決色差問題。不過，後來人們用不同種類的玻璃結合在一起，製作出了消色差的折射望遠鏡，甚至是高級的復消色差望遠鏡。這些望遠鏡成像比當時的反射望遠鏡更敏銳，觀測視場更大，成為天體照相和天體測量的利器。
然而，隨著人們需要口徑越來越大的望遠鏡來探測暗弱的遙遠天體，折射望遠鏡又變得力不從心了。由於光線要進入玻璃的內部，這對鏡片內部質量的要求很高;消色差的望遠鏡物鏡至少包含兩片鏡片，這樣就需要研磨四個表面;鏡片又厚又重，不但增加了鏡筒的負擔，還對光線存在嚴重的吸收。目前，世界上最大的折射望遠鏡口徑為1.02米，是100多年前建造的，安裝在美國的葉凱士天文台。此後人們再也沒有嘗試建造更大的折射望遠鏡。
相比之下，反射望遠鏡對光線沒有嚴重的吸收，製造起來也簡單許多，可以把口徑做得很大，於是成了當今世界大多數天文台的選擇。20世紀中期，5米級的反射望遠鏡已經投入觀測，並且帶來了許多重要發現。20世紀末，人們製作了10米級的反射望遠鏡，如今科學家又在努力研製30米甚至40米口徑的反射望遠鏡。在“口徑為王”的專業望遠鏡中，反射望遠鏡如今理所當然成了天下。