Ostertag besuchte das Gymnasium in Heilbronn und studierte von 1880 bis 1885 an der Tierärztlichen Hochschule in Stuttgart. 1888 promovierte er in Freiburg im Breisgau zum Dr. med. Er gab ab 1890 die von ihm gegründete „Zeitschrift für Fleischbeschau und Hygiene“ heraus. Nach Abschluß seiner Ausbildung wurde er Städtischer Tierarzt in Berlin. Er war vor allem im Zentralen Berliner Viehhof tätig. 1891 erhielt er eine Professur für Seuchenlehre und Fleischbeschau an der Tierärztlichen Hochschule in Stuttgart, 1892 kam er in gleicher Position an die Tierärztliche Hochschule nach Berlin. Er wohnte mit seiner Familie damals Luisenstraße 56. Noch in Stuttgart hatte Ostertag 1892 sein „Handbuch der Fleischbeschau“ herausgegeben. 1908 wurde Ostertag Direktor des Kaiserlichen Gesundheitsamtes. 1910 verlieh man ihm mit dem Orden der Württembergischen Krone den persönlichen Adelstitel. Am 1.4.1919 wurde er als Vortragender Rat ins Reichsministerium für Ernährung und Landwirtschaft berufen. 1920 siedelte er nach Stuttgart über und wurde Ministerialrat im württembergischen Landwirtschaftsministerium. Dort wirkte er bis zu seinem Eintritt in den Ruhestand 1933 auch als Landestierarzt. Die Universitäten Gießen, München und Tübingen verliehen ihm die Ehrendoktorwürde. Ostertag erhielt 1933 die Goethemedaille.