Nach dem Studium der Philologie wurde er 1843 Privatbibliothekar des Königs Friedrich August II. von Sachsen. 1848 ernannte ihn der König zum Direktor der königlichen Münzsammlung, 1852 zum Direktor der königlichen Porzellansammlung und 1864 zum Direktor des "Grünen Gewölbes." Bekannt wurde Graesse vor allem durch seine Werke "Leitfaden der allgemeinen Literaturgeschichte" (1854) und "Orbis latinus" (1861). In letzterem untersuchte er lateinische Ortsnamen. Verdienste erwarb er sich auch als Herausgeber von mehreren Volkssagensammlungen, hauptsächlich aus Sachsen.