Nach dem Gesangsstudium debütierte er 1913 als Tamino in Chemnitz und erhielt anschließend ein fünfjähriges Engagement an der Dresdner Hofoper. Gastrollen in Wien, Berlin (Staatsoper), London und bei den Salzburger Festspielen begründeten seinen Ruhm. Als Freund Lehárs, der für ihn Tenorpartien in "Zarejewitsch", "Land des Lächelns" und "Schön ist die Welt" schrieb, wandte er sich der Operette zu. Durch einige Hauptrollen in Filmen und Plattenaufnahmen wurde Tauber zu einem Weltstar. 1933 mußte er wegen seiner jüdischen Herkunft nach Österreich emigrieren. Bis zu seiner zweiten Emigration (1938) nach London feierte er wieder als Opernsänger an der Wiener Staatsoper Triumphe. Tauber galt als hervorragender Interpret des Lensky (Eugen Onegin), Hoffmann (Hoffmanns Erzählungen), Florestan (Fidelio), Faust (Margarethe) und Linkerton (Butterfly). In London war er der überragende Tenor (auch Dirigent) und gastierte auf allen berühmten Opernbühnen. Er wurde in einem Ehrengrab auf dem Katholischen Kirchhof in Kensington West in London bestattet.