想要寻找化石，首先得了解化石是什么样子。由古生物遗体石化而成的化石，比如动植物遗体，并不特别显眼。植物化石就像植物根、茎和叶一样，只是石化了而已；动物化石则比较复杂，有的保存了壳体（如蚌壳、螺蛳壳等）、硬体（如昆虫等），有的只保存了坚硬的骨头（如爬行动物、哺乳动物等），但也很容易辨认。此外，还要了解哪些地层会藏有化石。化石不会在火山岩中出现，通常只有在沉积岩中才能保存。但不同类型的沉积岩，化石埋藏情况也大不相同。例如，粗砂岩、砾岩、白云岩中通常不存在化石，因为它们的岩石结构和沉积环境不利于化石保存，或其形成的环境不适合生物生存。只有灰岩、泥灰岩、泥岩、砂质泥岩、粉砂岩、页岩等的岩石结构和沉积环境，才适合生物的生长和化石的保存。不同时代的地层所含的化石也完全不同。例如，要寻找三叶虫，最好在寒武纪（5.4 亿至 5 亿年前）地层中寻找，在奥陶纪和志留纪等古生代地层中也有三叶虫化石，但地层越年轻，它们就越少；若要寻找植物化石，则一定要在陆相地层中寻找，尤其是地层中有机质含量较高的层位，如煤系地层；恐龙化石则要在中生代的陆相地层中寻找。也就是说，要大致了解某个时代可能有什么化石，还要确定化石是属于海相还是陆相，在陆相地层中当然不可能找到海洋生物的化石。
地质情况往往千变万化，不同地方、不同时代、不同岩石往往大不相同，但只要多寻找、多总结经验，就能从中摸出规律。比如，中国辽宁西部早白垩纪（距今 1 亿多年）的陆相地层中，在深灰色、灰白色、灰黄色的薄层泥岩中，常含有鸟类、昆虫、植物、淡水鱼类以及小型恐龙、翼龙等重要化石。当地村民经常帮助古生物学家寻找这些化石，久而久之，他们也知道在哪里、在什么层位可以找到什么化石，甚至知道在地下几米处可以找到什么化石。俗话说“熟能生巧”，这话很有道理。有些地区的地层化石很少，因此寻找化石需要有耐心。如果在一个地层中很久找不到化石，不妨沿着地层延伸的方向再找找。越是难找的地方，一旦找到化石，就会给人们带来意想不到的收获。
值得一提的是，在个别岩石裂缝中存在假化石，它们外表有点像植物的树干和树叶，但用放大镜仔细观察，就可以看到它们根本不是树干化石和树叶化石，而是沿着岩石裂隙面分布的黑色锰质。