Er studierte in München , Würzburg und Leipzig Medizin und übernahm 1904 die Praxis seines Vaters in Passau. Bereits in München hatte er Kontak zu den Dichterkreisen um Rainer Maria Rilke (1875–1926) und Frank Wedekind (1864–1918). 1910 erschien sein erstes Werk „Gesammelte Gedichte“, 1913 folgte die Prosadichtung „Dr. Bürgers Ende“. 1914 ging Carossa als Arzt nach München, blieb aber weiterhin schriftstellerisch tätig. Seine Erlebnisse während des Ersten Weltkrieges als Batallionsarzt an der Ostfront verarbeitet er in seinem 1924 erschienen „Rumänischen Tagebuch“. 1929 gab er seine Praxis auf und war nur noch als freier Schriftsteller tätig. Neben „Eine Kindheit“ (1922), „Verwandlung einer Jugend“ (1928) und „Das Jahr der schönen Täuschungen“ (1941) verfaßt Carossa zumeist autobiographisch geprägte Romane und Erzählungen, die wesentlich zur Entwicklung des autobiographischen Romans in Deutschland beitrugen. Zu seinen Werken gehören außerdem zahlreiche Gedichte, Essays und Reiseberichte. Nach der Machtübernahme der Nationalsozialisten blieb Carossa in Deutschland, lehnte jedoch die Berufung in die „Deutsche Akademie der Dichtung“ ab. Er verhielt sich eher passiv gegenüber den Nationalsozialisten und verhinderte, daß man ihn politisch instrumentalisierte. 1942 nahm er jedoch unter dem Druck des NS-Regimes die Präsidentschaft der „Europäischen Schriftstellervereinigung“ an. Seine Werke waren während der Jahre der faschistischen Diktatur ein heimlicher Zufluchtsort für die Stillen im Lande. Da ihm Mitläufertum vorgeworfen wurde, zog er 1951 in seinem Buch „Ungleiche Welten“ selbstkritische Bilanz seiner Haltung zum NS-Regime.