細菌既沒有硬骨頭，也沒有硬壳。如果有細菌化石，它們是如何形成的呢？細菌那麼小，就算形成了化石，要怎麼才能找到它们呢？事實上，細菌確實可以保存成化石。自然界中有一個特殊的生命類群，称为蓝細菌，它們是地球上最早的生物之一。科學家曾在 35 億年前的古老地層中發現類似蓝細菌的化石。蓝細菌比大多數細菌都大，能分泌一层薄薄的細胞壁。最重要的是，蓝細菌能形成大型的层状结构，称为叠层石。叠层石是由以蓝細菌为主的微生物在生长和新陳代謝活動过程中附着沉淀無機盐或捕捉矿物颗粒而形成的一种生物沉积構造。如果將這種叠层石磨成薄片，可能会發現保存完好的蓝細菌和藻類化石。在中國河北張家口宣化至赤城一線， 18 億年前的早元古代晚期地層中含有大量铁矿石，它们構成了宣龙铁矿的主体。在宣龙铁矿的铁矿石和伴生的叠层石铁矿石中，曾發現 6 属的化石蓝細菌。
除了蓝細菌以外，化石細菌的數量並不多。，在特定的化学條件下，細菌細胞被無機盐取代后，形成活細胞的复製品或假晶。一些細菌能分泌含铁的外壳，有時也能形成化石。有些細菌可以钻入動物外殼或岩石中，在外壳或岩石中形成微小的管道，因此可以通過分析不同時期動物外殼化石中的這些管道間接認識它们。此外，琥珀中通常能保存大量精美的細菌，有些細菌甚至在經過億萬年之後仍能存活。在一些動物骨骼化石中，也可發現引起疾病的細菌，说明這些動物在生前曾經遭受過細菌带来的病痛。最令人驚讶的化石細菌可能是磁細菌，这類細菌能在細胞內形成納米大小的磁铁矿晶体。在 20 億年前的古老岩石中可以辨別出該細菌產生的磁铁矿晶体，大小為几微米，这可能是最小的化石了。