Der einer preußischen Soldatenfamilie entstammende Herwarth trat 1811 ins preußische Heer ein und nahm 1813/14 an den Befreiungskriegen teil. Während der revolutionären Ereignisse 1848 in Berlin befehligte er als Kommandant des Berliner Schlosses das 1. Garderegiment. 1856 wurde er Divisionskommandeur, 1860 Kommandierender General des VII. Armeekorps. Im Deutsch-Dänischen Krieg 1864 leitete er den Übergang nach Alsen, im Deutschen Krieg 1866 führte er die Elbarmee, siegte bei Hühnerwasser und Münchengrätz und befehligte bei Königgrätz den rechten Flügel. Im Deutsch-Französischen Krieg 1870/71 wurde er Generalgouverneur für das westliche Deutschland zum Schutz gegen eine französische Invasion. Er war konservatives Mitglied des Norddeutschen Reichstags für den Wahlkreis Wittlich-Bernkastel, ab 1872 gehörte er dem preußischen Herrenhaus an.