Nach der Kadettenausbildung trat er 1797 als Fähnrich in die preußische Armee ein. Mit kurzen Unterbrechungen diente er im russischen, österreichischen, vorwiegend aber im preußischen Heer bis 1848. Er nahm an der Schlacht von Waterloo teil, war 1816 Lehrer an der Kriegsschule in Berlin; 1818 Generalstabschef des 8. Armeekorps und seit 1825 Generalmajor. Pfuel gilt als "Schwimmvater des preußischen Heeres", weil er sich um die Förderung des Schwimmsportes verdient gemacht hat. Die 1817 eröffnete Pfuelsche Badeanstalt lag am Spreeufer an der Köpenicker Straße und war eine der ältesten Berlins. 1831 unterdrückte Pfuel die antipreußische Rebellion im Fürstentum Neuenburg (Schweiz) und war von 1832 bis 1847 dort Gouverneur. Im März 1848 kurzzeitig Gouverneur von Berlin, wurde er wegen seiner Deeskalationspolitik am 18. März durch eine Intrige des Gardekommandos kaltgestellt. Im Revolutionsjahr 1848 war er kurze Zeit Kriegsminister und Ministerpräsident. Aus seinen Ämtern entlassen, wirkte er von 1858 bis 1865 im Preußischen Abgeordnetenhaus.