Balingen wird erstmals 863 urkundlich erwähnt.
Holzkirchen sind die ersten Gebetsstätten der Christen, im neu entstandenen ostfränkischen Reich.
Im 11. Jahrhundert entsteht der romanische Vorgängerbau der heutigen Friedhofskirche St. Maria. Graf Friedrich von Zollern erhebt 1255 Balingen zur Stadt.
U.a. wegen der Überschwemmungsgefahr wird die Ortsmitte an die Stelle der heutigen Stadtkirche verlegt. Dort entsteht 1285 die St. Nikolaus-Kapelle innerhalb der Stadtmauer. Ab 1403 wird die Zollernherrschaft Schalksburg mit der Stadt Balingen an das aufstrebende Württemberg verkauft.
Balingen gehört zum Bistum Konstanz und darf 1443 die Nikolaus-Kapelle abbrechen und an der Stelle eine neue Stadtkirche errichten: St. Maria und St. Nikolaus. Um 1500 ist der Turm der Stadtkirche bis zum Kranz fertiggestellt. 1534 führt Herzog Ulrich von Württemberg in Balingen die Reformation ein. Balingen wird mit allen Kirchen und Bürgern evangelisch.

Wenige Katholiken ziehen in der folgenden Zeit nach Balingen. Sie müssen sich kirchlich in den Kirchengemeinden der damals noch nicht württembergischen Orte wie Geislingen, Roßwangen, Dotternhausen, Lautlingen, Margrethausen usw. orientieren. 1849 zählt Balingen 3400 Einwohner, davon war ein Bürger katholisch.
Durch den Eisenbahnbau ab 1869 und der beginnenden Industrialisierung in der 2. Hälfte des 19. Jahrhunderts kommen 200 weitere Katholiken nach Balingen. Sie werden kirchlich durch Geislingen betreut. Die Ev. Kirche stellt für die Gottesdienste die Friedhofskirche zur Verfügung. Der Wunsch nach einer eigenen Kirche wird immer größer.

Aufgrund der Bedeutung Balingens als Oberamtsstadt mit Regierungseinrichtungen usw. wird dem Wunsch entsprochen. 1897 bekommt der Entwurf des Königl. Regierungsbaumeisters Pohlhammer den Zuschlag. Die Kirche wird in der damals als ideal empfundenen Architektur der Neugotik gebaut. 1899 haben die 250 Balinger Katholiken ihre eigene Kirche: Die Heilig-Geist-Kirche. Sie bekommt einen eigenen Seelsorger.

1899 findet die Einweihung durch Bischof Paul Wilhelm von Keppler statt. 1916 wurde Balingen selbständige Pfarrei.

Bedingt durch den Zuzug der Heimatvertriebenen nach dem Zweiten Weltkrieg wuchs die Zahl der Katholiken von 900 im Jahr 1932 auf 2300 im Jahr 1946.
Der von Bischof Carl Joseph Leiprecht 1964 eingeweihte Erweiterungsbau gab Raum für 625 Sitzplätze und 350 Stehplätze. 
1998 und 1999 wurde die Kirche auf der Grundlage des Zweiten Vatikanischen Konzils (Öffnung zur Welt) und im Sinne der Kirchengemeinde (Gottesdienst als Gemeinschaft von Schwestern und Brüdern) renoviert und durch Weibischof Sedlmeier eingeweiht.
Heute zählt die Heilig-Geist-Gemeinde Balingen 5100 Katholiken.