Am 20. Juni 1869 war die Grundsteinlegung für die St. Gallus-Kirche. Der Ausbruch des deutsch-französischen Kriegs sowie Geldmangel verzögerten den Bau, so dass erst am 7. November 1872 die vorläufige Benedizierung des Gotteshauses stattfand. Die endgültige Weihe erfolgte am 11. Juni 1883 durch den Diözesanbischof Dr. Carl-Josef v. Hefele.
Georg von Morlok (1815-1896) entwarf die Pläne der Kirche. Der aus Dätzingen (Krs. Böblingen) stammende Architekt war königlich-württembergischer Oberbaurat und machte sich vor allem durch den Eisenbahnbau, aber auch zahlreiche Kirchen in Württemberg einen Namen.

Der in dieser Zeit im Kirchbau übliche sogenannte neugotische Stil bestimmte die Gestaltung der in Tuff- und Sandstein gebauten Kirche. Das dreischiffige Langhaus mit höherem von Rundfenstern erhellten Mittelschiff hatte einen vieleckigen -heute noch gut sichtbaren und erhaltenen- mit Kreuzrippe gewölbten Chorraum. Der 1878 vollendete Turm, heute noch nahezu unverändert erhalten, hat eine Höhe von 45 m, bis zur Spitze des Wetterhahns sind es 47 m.

Schon 1908 sah der damalige Seelsorger die Notwendigkeit den Kirchenraum für die immer stärker wachsende Gemeinde zu erweitern oder einen zweiten Kirchbau zu errichten. So wurde einen Bauplatz im Westen der Stadt erworben. Die verschiedenen Projekte konnten -bedingt durch den I. Weltkrieg und dessen Folgen- nicht realisiert werden.

Als 1935 der neue Stadtpfarrer Franz Lutz (1891-1971) investiert wurde, sah er es als seine wesentlichste Aufgabe an, eine Lösung für die Kirchenbaufrage zu finden. Nach langen Beratungen entschloss sich der Kirchenstiftungsrat zum Umbau des bestehenden Bauwerkes nach Plänen des Stuttgarter Architekten Otto Linder (1891-1976).

Am Passionssonntag, am 26.03.1939, konnte die neugestaltete Kirche von Weihbischof Dr. Franz- Josef Fischer geweiht werden. In den ersten Kriegsjahren und Nachkriegsjahren konnte die Ausstattung der Kirche (Marienkapelle, Bildwerk, Kreuzweg etc.) vollendet werden.

Mehrere Renovationen in der 2. Hälfte des 20. Jh. veränderten vor allem das Innere der Kirche. Im Zuge des Orgelneubaus war 1961 im Osten des Kirchenschiffs eine Empore in schlichter Form errichtet worden, die alte Chorraumempore wurde zum Schiff hin geschlossen.

Die Liturgiereform des II. Vatikanischen Konzils bedingte eine grundlegende bauliche Veränderung des Chorraumes im Jahr 1965. Bronzeportale ersetzen seit 1979 die Holztüren des Eingangs. Im Jahr 1981 wurde der gesamte Dachstuhl renoviert und die Kircheninnendecke komplett umgestaltet. Die Maßnahme war nach Erdbebenschäden unumgänglich. Eine neue Gedächtnisstätte erinnert seit 1986 an die Opfer der Weltkriege.
Eine umfassende Innenrenovation fand 1996 statt. Neben technischen Verbesserungen (Heizung, Beleuchtung, Elektrik etc.) wurde die Kanzel entfernt, die Fußböden komplett erneuert und liturgische Orte wie Taufstein, Tabernakelstele, Osterkerzenleuchter und Priestersitzambo neu geschaffen. Der Altar blieb erhalten. Neu gestaltet wurden auch die Sedilien, die Farbgebung der Bänke und die Beichtkapelle.

Eine Aussenrenovation 2007/08 veränderte die Farbgebung und vor allem die Außenanlagen der Kirche. Ein von den Künstlern Roland Martin, Tuttlingen, (Bronzeplastiken) und Willi Bucher, Fridingen, (Steinarbeiten) 2008 geschaffener Brunnen mit der Skulptur des Heiligen Gallus und dessen Attribut, dem Bären, bildet den Mittelpunkt des mit acht Lindenbäumen gesäumten Platzes. Auf der Nordseite wurde das Dach frisch eingedeckt und auf dem südlichen Dach eine Photovoltaikanlage installiert.
Der säulenlose schlichte Innenraum wird von einer freitragenden, in den Mittelfeldern erhöhten, gegliederten und reich strukturieren Holzdecke begrenzt.

Das sich Richtung Chorraum der Kirche verbreiternde, ein mehrfach gewölbtes Seitenschiff bildende Langhaus markiert die Erweiterung der Kirche von 1937-39.

Der Chorraum ist deutlich vom Schiff abgesetzt, die Chorhöhe beträgt rund 14 m. Der Chor erscheint sehr wirkungsvoll, da er fast turmartig emporragt und durch die seitlich ganz oben angeordneten Fenster hell belichtet wird. Die in drei Stockwerken übereinander kulissenartig angeordneten Chorlogen setzen einen stimmungsvollen architektonischen Akzent.

Das auffälligste und interessanteste Kunstwerk ist die monumentale 5,60 m große Christusfigur im hell und indirekt belichteten Chorraum.

Die 1940 vom Biberacher Bildhauer Georg Lesehr (1906-1995) aus Lindenholz geschaffene und blattvergoldete Skulptur gibt neben der theologischen Aussage, dass der leidende Gekreuzigte zugleich der herrlich Auferstandene ist, auch ein zeitgeschichtliches Zeugnis. Die Größe und Dominanz der Figur darf durchaus als Antipode zum Größenwahn der politischen Machthaber in der Entstehungszeit gedeutet werden. Zu Seiten des Gekreuzigten erscheinen die 12 Apostel, eine Verbindung von Fresko und Sgraffito, eine Arbeit des Villinger Malers Paul Hirt. An der rechten eingezogenen Chormauer ist vom gleichen Künstler ein Sgraffitobild zu sehen: Der Hl. Gallus, der Kirchenpatron, mit dem Apostel Deutschlands, dem Hl. Bonifatius, und dem Hl. Michael.

Der aus hellem römischem Travertinstein gehauene Altar wurde 1965 von Siegfried Haas, Rottweil, entworfen. Die im Stirnfries mit Brot und Fischen verzierte Mensa wird von einem filigran wirkenden, durch halbrunde Wölbungen beherrschten Sockel getragen.

Zu einem Kleinod der Kirche dürfte die Marienkapelle rechts des Chores gehören. Hauptaustattungsstück der Kapelle ist der Marienaltar. Das Mittelstück dieses Altars zeigt ein Hochrelief der Schutzmantelmadonna von Emil Sutor (1888-1974), Karlsruhe. Unter dem Mantel Mariens sind Arbeiterfamilien, die ursprünglichen Mitglieder der Kirchengemeinde, gut zu erkennen.

Die beiden Altarflügel, zwei Marienbilder, „Maria in der Freud“ (Maria mit Jesuskind) und „Maria im Leid“ (Pieta) schuf Schwester Maria Innocentia (Berta) Hummel (1909-1946), die berühmte Künstlernonne des Klosters Sießen bei Saulgau 1940. Die gut und innig gemalten Tafeln milder Verklärung stellen den Höhepunkt im Schaffen dieser früh verstorbenen begabten Künstlerin dar und sind die wertvollsten Kunstwerke der Kirche.
Die Glasfenster der Kirche wurden 1939 vom Glasatelier Valentin Saile, Stuttgart, nach Entwürfen von Wilhelm und Adolf Saile realisiert. An der Südseite zeigen sie symbolisch die sieben Sakramente, an der Nordseite die sieben Gaben des Heiligen Geistes. In der ehemaligen Taufkapelle im Osten der Kirche, die heute als Beichtkapelle genutzt wird, ist die Darstellung der Taufe Jesu zu finden.

Die Orgel der Kirche wurde im Jahr 1961 von der Firma Rieger, Schwarzach/Voralberg, gebaut. Das Instrument hat drei Manuale und 3104 Pfeifen in 44 Registern. Der Werkaufbau gliedert sich in vier Teile. In den Türmen beidseitig der Empore befindet sich das Pedal, in der Mitte vor dem gut erkennbaren alten Chorbogen, das Hauptwerk mit seinen spanischen Trompeten. Im Sockel unter dem Hauptwerk ist das Brustwerk untergebracht und vor der Brüstung hängt das Rückpositiv. Die Gehäusetiefe der einzelnen Werke wurde möglichst gering gehalten, um eine gute Klangabstrahlung zu gewährleisten.

Das Hauptgeläut der Kirche besteht aus vier Glocken. Die tontiefste ist die Gallusglocke (e’ 1175 kg), gefolgt von der Marienglocke (g’ 845 kg), der Martinsglocke (a’ 470 kg) und der Paulusglocke (c’’ 275 kg). Außer der Marienglocke wurden die Glocken im Jahr 1953 in Heilbronn von Alfred Bachert gegossen. Die Marienglocke stammt aus Märzdorf a. d. Bober. Diese Glocke ist die wertvollste im Geläut, da sie am Ende des 15 Jahrhunderts gegossen wurde. Beim Einbau eines hölzernen Glockenstuhls im Jahr 2010 wurde ein Zimbelgeläut -gegossen von Albert Bachert, Karlsruhe- angeschafft: Michaelsglocke (a’’ 91 kg), Gabrielsglocke (c’’’ 73 kg), Rafaelsglocke (d’’’ 50 kg), Johannes Vianney-Glocke (e’’’ 35 kg).