Gaudig besuchte in seinem Geburtsort die Volksschule und bereitete sich privat auf den Besuch der höheren Lehranstalten vor. In den Jahren von 1874 bis 1879 absolvierte er in Nordhausen das Gymnasium und studierte dann Theologie, Philosophie, Germanistik und alte Sprachen in Halle. 1883 promovierte er. Nach einem Probejahr an den Franckeschen Stiftungen in Halle lehrte Gaudig ab 1887 in Gera. Von 1896 bis 1900 war Gaudig Direktor der Höheren Mädchenschule in Halle. Danach wirkte er als Oberstudiendirektor in Leipzig. Gaudig trat für eine Arbeitsschule ein und forderte die Kulturschule als Einheitsschule. Er stellte in seinen reformerischen Auffassungen die Persönlichkeit in das Zentrum des Erziehungsziels. Er publizierte u. a. "Die Idee der Persönlichkeit und ihre Bedeutung für die Pädagogik" (1912), "Die Schule im Dienste der werdenden Persönlichkeit" (in zwei Bänden 1917) und zog 1923 in "Was mir der Tag brachte" Bilanz.