Das im Schutz einer um 1200 erbauten Burg entstandene Dorf erhielt um 1300 Stadtrecht. 1332 kam es an das Bistum Halberstadt und fiel mit diesem 1648 an Brandenburg. 1712 wurde die Stadt durch Friedrich I., König in Preußen, zur königlichen Domäne gemacht. Ermsleben ist der Geburtsort des Dichters Ludwig Gleim (1719). Südlich von Ermsleben befinden sich Reste der oben erwähnten Burg, des ehemaligen Benediktinerklosters Konradsburg. Von der spätromanischen Klosterkirche sind nur Chor und Krypta erhalten, die fünfschiffige Krypta zählt wegen des Formenreichtums ihrer Kapitelle zu den bedeutendsten spätromanischen Baudenkmälern im Harz. Die Stadt ist 26,33 km² groß und hat 2 868 Einwohner (1998).