Nach dem Studium der Rechte trat er 1780 in den preußischen Staatsdienst. Die Erfahrungen, die er als Leiter verschiedener Ämter und schließlich als Oberkammerpräsident mit der ständischen Selbstverwaltung vor dem Hintergrund der Französischen Revolution sammelte, prägten zusammen mit der Bewunderung der britischen Verfassung seine politischen Anschauungen. 1804 wurde er zum preußischen Finanz- und Wirtschaftsminister ernannt. Die von ihm ergriffenen wirtschaftspolitischen Maßnahmen sollten Preußen auf den Kampf gegen Napoleon I. vorbereiten. Die Ersetzung der königlichen Kabinetts- durch eine moderne Ministerialregierung konnte er jedoch gegen das altpreußische Traditionsdenken nicht durchsetzen. Nach seiner Entlassung zu Jahresbeginn 1807 fasste er auf seinem Gut in Nassau die Ergebnisse seiner bisherigen politischen Tätigkeit zusammen und legte sie im Juni 1807 in der „Nassauer Denkschrift“ nieder. Hier forderte er für Provinzen, Kreise und Gemeinden die Selbstverwaltung, um eine Erneuerung Preußens durch die Beteiligung aller Bürger an der Mitgestaltung des Staatslebens zu erreichen. Nach dem Tilsiter Frieden wurde Stein am 10.7.1807 erneut zum leitenden Minister berufen und begann sofort mit der Durchführung der schon früher geplanten und vorbereiteten Reformen: Das Edikt vom 9.10.1807 – die so genannte Bauernbefreiung – hob die bäuerliche Erbuntertänigkeit in ganz Preußen auf und beseitigte alle ständischen Beschränkungen, die Städteordnung vom 19.11.1808 führte die Selbstverwaltung in den Stadtgemeinden ein; das Edikt vom 24.11.1808 schuf ein modernes Staatsministerium mit Fachressorts. Weitere Reformgesetze (Selbstverwaltung der Landgemeinden, Kreistage, Provinziallandtage) wurden vorbereitet, jedoch nicht mehr durchgeführt. Im November 1808 erzwangen die Franzosen seine Entlassung, und er lebte als Flüchtling in Prag und Brünn. 1812 wurde er Berater des Zaren Alexander I. und vermittelte 1813 das Bündnis zwischen Preußen und Russland. 1813/14 leitete er die vorläufige Verwaltung der von französischer Herrschaft befreiten Gebiete des Rheinbundes. Stein versuchte, den Gedanken eines deutschen Bundesstaates zu verwirklichen und kämpfte gegen die Wiederherstellung der alten politischen Verhältnisse. Bald nach dem Wiener Kongress zog er sich aus dem politischen Leben zurück, übernahm jedoch ab 1826 als Landtagsmarschall des westfälischen Provinziallandtages nochmals ein politisches Amt.