Er war im öffentlichen Dienst in Frankfurt am Main, Berlin, Wiesbaden und Düsseldorf angestellt, u. a. 1900/01 als Erster Sekretär des Allgemeinen Genossenschaftsverbandes in Charlottenburg. 1912 war er Oberbürgermeister von Kassel und Mitglied des Preußischen Herrenhauses. Er war von 1913 bis 1920 letzter Oberbürgermeister von Charlottenburg. 1920/21 war Scholz Reichswirtschaftsminister. Ab 1923 Führer der Reichstagsfraktion und Ende 1929 auch Führer der Deutschen Volkspartei (DVP). Sein Grab befindet sich auf dem Kirchhof in Sacrow.