Olbricht war der Sohn eines Mathematikprofessors. Im Ersten Weltkrieg war er Generalstabsoffizier, blieb danach in der Reichswehr und war von 1926 bis 1931 in der Abteilung "Fremde Heere" des Reichswehrministeriums tätig. Er wurde 1935 Chef des Generalstabs des IV. Armeekorps in Dresden. Bereits in jenen Jahren hatte er freundschaftlichen Kontakt zu anderen kritischen Militärangehörigen. Olbricht nahm als Kommandeur der 24. Infanteriedivision am Krieg gegen Polen teil. Am 15.2.1940 wurde er zum Chef des Allgemeinen Heeresamtes im Oberkommando des Heeres (OKH) ernannt. Am 1. Juni desselben Jahres wurde er zum General der Infanterie befördert. Bereits in den dreißiger Jahren hatte er Kontakt zu Carl Goerdeler, dem ehemaligen Oberbürgermeister von Leipzig. Olbricht wohnte damals in Dahlem, Wildpfad 24. Über die politische Entwicklung in Deutschland war er besorgt. Durch seine Verbindung zu Generaloberst Ludwig Beck fand er zum Kreis gleichgesinnter Offiziere und Widerstandsgruppen. Olbricht erarbeitete als maßgeblicher Organisator des Umsturzversuches des NS-Regimes den "Entwurf Walküre", der das Attentat politisch und militärisch vorbereitete und die Entwicklung danach begleiten sollte. Nach dem gescheiterten Attentat auf Hitler wurde Olbricht noch am 20.7.1944 mit Stauffenberg, Mertz von Quirnheim und Haeften im Hof des Allgemeinen Heeresamtes in der Bendlerstraße (heute Stauffenbergstraße 11-14) standrechtlich erschossen. Beigesetzt wurde er zuerst auf dem Alten St.-Matthäus-Kirchhof in der Großgörschenstraße 12-14 (Schöneberg). Dort und in der Stauffenbergstraße (Tiergarten) sind Gedenktafeln für die Opfer des 20. Juli 1944 angebracht, deren Leichen exhumiert und verbrannt wurden, ihre Asche wurde verstreut.