Zur Regierungszeit Karls des Großen, im Jahr 782, wird Glatebach in einer Urkunde des Klosters Lorsch zum ersten Mal genannt. Seit dem 9. Jahrhundert hat auch das Kloster Weißenburg in Glattbach Besitz, darunter die heutige Pfarrkirche St. Petrus und die Kirche St. Markus. Die ausserhalb des Orts gelegene Kirche St. Markus ist wohl älter als St. Petrus.

Das Kloster Reichenbach erhält 1082 hier Güter, später folgen die Klöster Herrenalb, Hirsau und Maulbronn, das zu ausgedehntem Besitz kam (Bischof Walter von Speyer erwirbt von Ritter Arnold 1023 ein Hofgut in Glattbach).

Im Schenkungsbuch des Klosters Hirsau erscheinen vom 12. Jahrhundert ab die Herren von Glattbach: Wolfram de Gladebach, seine Söhne Wolfram und Wunand, Reinhardus, Diemar (1254), Leutwein (1263) und im 14. Jahrhundert Heinrich de Gladebach. Grundherren waren die Grafen von Vaihingen, die Glattbach von den Grafen von Calw übernommen hatten.1243 erwirbt das Kloster Maulbronn von Gertrud, der Schwester Alberts von Liebenstein einen Hof in Glattbach. 1308 gibt Graf Konrad von Vaihingen das Dorf den Pfalzgrafen zu Rheine als Lehen. 1504 wird Glattbach nach beständigen Reibereien zwischen Württemberg und der Pfalz württembergisch.

Glattbach war Kreuzungspunkt uralter Straßen und Wege: der sogenannte Heerweg kommt von Iptingen und vereinigt sich nördlich des Orts mit dem von der Auricher Höhe kommenden Alten Postweg. Ein weiterer alter Weg, ein Wallfahrtsweg, zieht von Nußdorf her durch den Ort und weiter nach Lomersheim.

Die einst stark befestigte Kirche St. Peter in Großglattbach nimmt mit ihrer das Dorf beherrschenden Lage wahrscheinlich den Platz der einstigen Burg der Ortsherren ein. Erhaltene Teile des Grabens und der Wehrmauer sind offenbar älter als die Kirche. Der Flurname "in der wüsten Kirche" nördlich vom Riedberg deutet auf die frühere Existenz einer weiteren Kirche, wahrscheinlich einer Feldkirche hin.

Das Rathaus wurde 1837 erbaut. ("in einem freundlich modernen Styl"). Weiter gab es eine ansehnliche Kelter mit zwei Bäumen, ein 1833 erbautes Gemeindegefängnis, ein seit 1839 bestehendes Gemeindebackhaus, ein Armenhaus und ein Schafhaus. Die Oberamtsbeschreibung von 1870 vermerkt, dass der Weinbau stark abgenommen habe und nur noch auf einer Fläche von 30 Morgen betrieben werde. Die Pfarrchronik nennt dagegen für die Zeit vor dem Dreißigjährigen Krieg eine Zahl von 700 Weingärtnern.

Im Zuge der Verwaltungsreform von 1971 schließt sich Großglattbach der Stadt Mühlacker an.