Der Sohn eines jüdischen Bankiers besuchte in seiner Heimatstadt das Gymnasium. Im Anschluß ließ er sich an der Universität in Berlin für Physik immatrikulieren. Er promovierte 1906 bei Emil Warburg (1846–1931) mit einer experimentellen Arbeit über Ladungsträger in der Spitzenentladung. Mit Gustav Hertz (1887–1975) untersuchte Franck ab 1911 die Wechselwirkung von Elektronen und Gasmolekülen. Sie konnten 1913 den Nachweis diskreter Anregungsstufen der Atome des Quecksilberdampfes erbringen. Ihre Entdeckung erhielt den Namen Franck-Hertz-Versuch. Franck hatte 1916–1920 an der Berliner Universität eine Professur. 1921 folgte er einem Ruf an die Universität Göttingen. Für die Plancksche Quantenhypothese erhielten Franck und G. Hertz 1925 den Nobelpreis für Physik. Franck mußte 1933 Deutschland verlassen. Er emigrierte in die USA, wo er 1938–1947 eine Professur für physikalische Chemie in Chicago hatte. Während des Zweiten Weltkrieges befaßte er sich innerhalb eines Teams von Wissenschaftlern mit der Entwicklung der Atombombe. Er warnte 1945 mit seinem "Franck-Report" die amerikanische Regierung vor der Anwendung dieser Bombe, seine Warnung sowie die anderer Forscher blieben jedoch unbeachtet.