Ab 1847 in der Kadettenanstalt zu Berlin erzogen, trat er im April 1850 als Sekondeleutnant in das Garde-Artillerieregiment zu Berlin ein und legte 1852 seine Prüfung als Artillerieoffizier ab. 1860 bis 1862 war er Gouverneur des Prinzen Albert von Sachsen-Altenburg, danach erhielt er, zum Hauptmann befördert, das Kommando über die 6. reitende Batterie des Garderegiments. 1866 erlebte Waldersee im Großen Hauptquartier die Schlacht bei Königgrätz, wurde Major und Generalstabsoffizier im Generalgouvernement Hannover und danach beim Großen Generalstab des X. Armeekorps. Waldersee wurde 1870 Militärattaché in Paris und wenige Monate später Flügeladjutant König Wilhelms I. Als Oberstleutnant nahm Waldersee am Deutsch-Französischen Krieg 1870/71 teil. Er war im Januar 1871 Chef des Generalstabs des XIII. Armeekorps und wurde am 12.6.1871 Kaiserlicher Geschäftsträger in Paris. Im August 1871 zum Oberst befördert, wurde er 1873 zum Generalstabschef des X. Armeekorps ernannt. 1876 zum Generalmajor und 1881 zum Generalquartiermeister und Stellvertreter Helmuth von Moltkes im Generalstab aufgestiegen, wurde er Generaladjutant Kaiser Friedrichs III. und General der Kavallerie. Am 10.8.1888 trat Waldersee Moltkes Nachfolge als Chef des Generalstabs des Heeres an. Er wurde 1889 Mitglied des Preußischen Staatsrates und des Herrenhauses auf Lebenszeit, erhielt am 1.1.1895 den Schwarzen Adlerorden und im Mai 1900 das Patent eines Generalfeldmarschalls. 1890 half er mit, Bismarck zu stürzen. Er fiel bald bei Wilhelm II. in Ungnade und ging als Kommandierender General des IX. Armeekorps nach Altona. Vom 6.8.1900 bis 21.6.1901 hatte Waldersee den Oberbefehl über die Interventionstruppen in China. Dort schlug er den Ihotwan-Aufstand (Boxer-Aufstand) blutig nieder.