Der heutige Zugangsbereich der Teufelshöhle ist den Einheimischen schon seit Jahrhunderten als Teufelsloch bekannt. Obwohl sehr viel Knochenmaterialien, anderes organisches Material und vielfältige Formen von Tropfsteinen gefunden wurden, schenkten Höhlenforscher dem damals 85 Meter tiefen Teufelsloch kaum Beachtung. Zum ersten Mal wurde es vom Bamberger Geschichtsschreiber Joseph Heller im Jahr 1829 erwähnt, woraufhin die Höhle bekannter wurde und zunehmend von Touristen besucht wurde.
Trotzdem wurde dem benachbarten Kleinen Teufelsloch mehr Beachtung geschenkt. 1876 wurde dort Geschossspitze aus Hornstein entdeckt.
Im Jahre 1901 wurde durch Adalbert Neischl die erste Vermessung durchgeführt und ein erster Höhlenplan ausgefertigt. Der Tropfsteinschmuck war damals schon größtenteils zerstört und das meiste Knochenmaterial entfernt.
Bis 1922 waren sich alle erfahrenen Speläologen darin einig, dass das Teufelsloch keine Fortsetzung hinter der Abschlusswand hatte. Hans Brand hingegen vermutete, dass das Teufelsloch durch fließendes Wasser entstanden sei und sich hinter dem Versturz das alte Flussbett befinden müsse, was sich jedoch als Irrtum herausstellte. Im Oktober 1922 grub Brand mit Unterstützung der Stadt Pottenstein und einem privaten Geldgeber erfolgreich nach einer Erweiterung der Höhle. Nach neun Metern fand er den natürlichen Verlauf der Höhle und stellte fest, dass die Höhle viel größer als erwartet war. Anhand von Untersuchungen konnten weitere Hohlräume gefunden werden. Mit der Zeit zeigte sich, dass die Höhle aus drei Stockwerken besteht. Mit Hilfe von Sprengungen konnten bestehende Schichtfugen und Störungslinien so weit geöffnet werden, dass eine Bekletterung möglich wurde. Im weiteren Verlauf dieser ersten Erschließung wurde teilweise 100 Meter lange Verbindungsgänge begehbar gemacht. Die dabei entdeckten Hohlräume übertrafen sämtliche Erwartungen, was die Ausstattung mit Tropfsteinen betraf.
Konnten die bisherigen Erschließungsarbeiten größtenteils von Hand getätigt werden, wurde später eine zweite Erschließung durchgeführt bei der unter anderem Kompressoren und Bohrhämmer zum Einsatz kamen. Hier ging es hauptsächlich um die Anbindung und Begehbarkeit des Barbarossadoms, des heute wohl schönsten und berühmtesten Raumes in der Teufelshöhle.
Am Pfingstfeiertag des Jahres 1931 konnte das mittlerweile etwa 1.500 Meter erschlossene und über mehrere Etagen verlaufende Höhlensystem der Allgemeinheit zur Besichtigung freigegeben werden.