Von 1820 bis 1826 lebte die Familie in Offenbach. Erk war ab 1826 als Seminarlehrer in Moehrs tätig und erfuhr durch Friedrich Adolph Diesterweg berufliche Förderung, der Erk 1835 nach Berlin an das Königliche Lehrer-Seminar für Stadtschulen berief. Bis 1838 war Erk Musiklehrer des Prinzen Friedrich Karl Nikolaus von Preußen. Im Jahre 1843 gründete er den "Erk'schen Männergesangsverein", aus dem 1852 ein gemischter Chor gebildet wurde. 1857 wurde Erk zum Königlichen Musikdirektor ernannt, 1876 erhielt er eine Professur. Er gab 1840 seine erste Volksliedersammlung heraus. Sein Hauptwerk ist der "Deutsche Liederhort" (1856).