Bode, dessen Vater Oberlandesgerichtsrat und Reichstagsabgeordneter war, studierte Rechtswissenschaften in Göttingen und Berlin und war Auditor in Braunschweig (1867–1869). Dabei befaßte er sich mit kunstgeschichtlichen Arbeiten, studierte danach Kunstgeschichte in Berlin und Wien und promovierte in Leipzig 1870 zum Dr. phil. 1872 wurde er Assistent an der Berliner Skulpturen-Abteilung, 1890 außerdem an der Gemälde-Galerie. 1904 wurde das von ihm gegründete Kaiser-Friedrich-Museum eröffnet (heute Bode-Museum). 1906 berief ihn Kaiser Wilhelm II. in das Amt des Generaldirektors der Königlichen, ab 1918 Staatlichen Museen Berlin, das er bis 1920 innehatte. Bode galt als einer der Begründer des modernen Museumswesens. Er entwickelte die Berliner Museen zu Stätten der Weltkultur. Die Gemäldegalerie erhielt durch zahlreiche Ankäufe höchsten künstlerischen Rang. Hohe Anerkennung verschaffte er sich auch durch seine Publikationen. Zu seinen Hauptwerken gehören die „Geschichte der deutschen Plastik“ (1885), „Rembrandt“ (8 Bde. 1897–1905) und „Mein Leben“ (2 Bde., 1930).