Um Fossilien zu finden, muss man zunächst wissen, wie Fossilien aussehen. Fossilien, die aus versteinerten Überresten von Organismen bestehen, sehen nicht besonders spektakulär aus, wie die Überreste von Tieren und Pflanzen. Pflanzenfossilien sehen zum Beispiel wie Pflanzenwurzeln, -stämme und -blätter aus, sind aber nur versteinert; Tierfossilien sind komplizierter und manche erhalten ihre Schalen (wie Muschelschalen), Hartteile (wie Insekten) oder nur ihre harten Knochen (wie Reptilien und Säugetiere), sind aber leicht zu erkennen. Darüber hinaus muss man wissen, in welchen Gesteinsschichten Fossilien zu finden sind. Fossilien befinden sich nicht in Vulkangesteinen, sondern nur in Sedimentgesteinen. Allerdings sind die Bedingungen für die Erhaltung von Fossilien in verschiedenen Sedimentgesteinen sehr unterschiedlich. Zum Beispiel gibt es in grobem Sandstein, Kiesgestein und Dolomit normalerweise keine Fossilien, da ihre Gesteinsstruktur und Sedimentumgebung für die Erhaltung von Fossilien nicht günstig sind oder die Umgebung, in der die Organismen lebten, nicht für das Leben geeignet war. Nur Kalkstein, Mergel, Tonstein, sandiger Tonstein und Sandstein haben eine geeignete Gesteinsstruktur und Sedimentumgebung für das Wachstum von Organismen und die Erhaltung von Fossilien. Die Fossilien in verschiedenen Gesteinsschichten unterscheiden sich auch stark. So findet man zum Beispiel im Kambrium (vor 540 bis 500 Millionen Jahren) am besten Trilobiten, während Trilobiten auch in anderen paläozoischen Gesteinsschichten wie dem Ordovizium und dem Silur gefunden werden, aber je jünger die Gesteinsschichten sind, desto seltener sind sie. Pflanzenfossilien müssen in terrestrischen Gesteinsschichten gesucht werden, insbesondere in Schichten mit einem hohen Gehalt an organischem Material, wie z. B. Kohleformationen. Dinosaurierfossilien müssen in mesozoischen terrestrischen Gesteinsschichten gesucht werden. Das heißt, man muss ungefähr wissen, welche Fossilien in welchem Zeitalter zu finden sind, und ob sie marin oder terrestrisch sind. In terrestrischen Gesteinsschichten können natürlich keine marinen Fossilien gefunden werden.
Die geologischen Bedingungen sind oft sehr unterschiedlich, und verschiedene Orte, Zeitalter und Gesteinsschichten unterscheiden sich stark voneinander. Aber wenn man viel sucht und Erfahrungen sammelt, kann man daraus Regelmäßigkeiten ableiten. In Westlothian, China, zum Beispiel, wurden in den frühen Kreidegesteinen (vor mehr als 100 Millionen Jahren) häufig wichtige Fossilien von Vögeln, Insekten, Pflanzen, Süßwasserfischen und kleinen Dinosauriern und Pterosauriern in dünnen grauschwarzen und grauweißen bis graugelben Tonsteinen gefunden. Die örtlichen Dorfbewohner halfen oft Paläontologen bei der Suche nach diesen Fossilien, und nach einer Weile wussten sie auch, wo und in welchen Schichten welche Fossilien zu finden waren, und sogar, wie tief im Boden bestimmte Fossilien zu finden waren. Das Sprichwort „Übung macht den Meister“ ist sehr zutreffend. In einigen Gebieten sind Fossilien selten, daher erfordert die Suche nach Fossilien Geduld. Wenn man in einer Gesteinsschicht lange Zeit keine Fossilien findet, kann man in Richtung der Ausdehnung der Gesteinsschicht weiter suchen. Je schwieriger es ist, einen Ort zu finden, desto größer ist die Überraschung, wenn man dort Fossilien findet.
Es ist erwähnenswert, dass in einigen Felsenritzen auch falsche Fossilien vorhanden sind, die etwas wie Pflanzenstämme und -blätter aussehen, aber unter einem Vergrößerungsglas sieht man, dass es sich nicht um Stamm- oder Blattfossilien handelt, sondern um schwarze Manganablagerungen, die entlang der Felsenrissflächen verteilt sind.