Erman studierte in Leipzig und Berlin. Zunächst war er wissenschaftlicher Hilfsarbeiter an den Königlichen Museen, 1884 wurde er Direktor des Ägyptischen Museums in Berlin. Er schuf die noch heute geltenden sprachwissenschaftlichen Grundlagen der Erforschung der ägyptischen Sprache und gilt als Begründer der modernen ägyptischen Sprachforschung. Erman war Professor und Mitglied deutscher und ausländischer Akademien. Sein Ehrengrab befindet sich auf dem Waldfriedhof Dahlem, Hüttenweg.