Bei Ausbruch des Ersten Weltkriegs war er Chef des Feldeisenbahnwesens. In den Jahren 1916/17 gehörte er dem Vorstand des Kriegsernährungsamtes an und war zugleich stellvertretender preußischer Kriegsminister. Er wurde im Jahre 1918 als Nachfolger Ludendorffs Generalquartiermeister und leitete die Rückführung der Fronttruppen nach Deutschland. Im November 1918 verband Groener sich mit den sozialdemokratischen Volksbeauftragten - im besonderen mit Friedrich Ebert - zur Abwehr eines revolutionären Umsturzes in Deutschland (Ebert-Groener-Geheimabkommen). Er versuchte gemeinsam mit Ebert und mit Zustimmung Hindenburgs das Militär und die SPD im Rahmen einer neuen staatlichen Ordnung zusammenzuführen und riet zur Unterzeichnung des Vertrags von Versailles. Von 1920 bis 1923 war er Reichsverkehrsminister und in den Jahren 1928-1932 Reichswehr- und 1931/32 zugleich kommissarischer Innenminister. Groener war ein Gegner des Nationalsozialismus und setzte als Reichsinnenminister das Verbot von SA und SS durch. Er geriet dadurch mit Schleicher - dem späteren Reichskanzler - in Konflikt und trat deshalb am 13.5.1932 als Reichswehrminister und mit dem Sturz des Reichskanzler Brüning am 30.5.1932 auch als Innenminister zurück. Sein Grab befindet sich auf dem Südwestkirchhof des Synodalverbandes der Berliner Stadtmission Stahnsdorf.