Er absolvierte ein Jurastudium in Tübingen, Bonn und Berlin. Zeitweise war er dann bei der Staatsanwaltschaft Stuttgart angestellt. Als Mitglied der Zentrumspartei war Bolz 1913 bis 1918 und 1919 bis zum 3. Juni 1933 im Württembergischen Landtag. In derselben Zeit gehörte er ununterbrochen bis 1933 dem Deutschen Reichstag an. Im Oktober 1919 war Bolz württembergischer Justizminister und ab Juni 1923 Innenminister. Zu diesem Amt kam im Juni 1928 die Aufgabe des Staatspräsidenten von Württemberg - bis 1933. Aus all seinen politischen Funktionen wurde Bolz, der entschiedener Gegner der Faschisten war, im März 1933 verdrängt. Vom 19. Juni bis 12. Juli 1933 war er im KZ Hohenasperg inhaftiert. Er arbeitete dann in Stuttgart als Steuerberater der Abtei Beuron und des Caritasverbandes bis 1944. Wegen seines antifaschistischen Widerstandes seit 1942 um Carl Goerdeler wurde er nach dem Scheitern des Attentats auf Hitler am 12. August 1944 verhaftet. Er hatte auf der Ministerliste als Kultusminister einer künftigen deutschen Regierung gestanden. Am 21. Dezember 1944 stand er vor dem "Volksgerichtshof" und wurde zum Tode verurteilt. Er starb unter dem Fallbeil.