Er besuchte das Stuttgarter Karlsgymnasium und schloß es mit dem Abitur ab. Obwohl 1914 noch französischer Staatsbürger, meldete er sich als deutscher Kriegsfreiwilliger und war bis Kriegsende beim Heer. Er war Mitglied eines Soldatenrates. In Stuttgart beteiligte er sich an der Bildung einer Studentenkompanie zum Schutze der Republik. 1919–1921 studierte er Rechts- und Staatswissenschaften in Tübingen und promovierte 1923. In Tübingen war er Mitbegründer des sozialistischen Studentenbundes. 1924 ließ er sich in der Stadt als Rechtsanwalt nieder und trat 1925 als Landgerichtsrat in der Justizdienst ein. 1927 wurde er vom Richterstand beurlaubt. Man berief ihn als Referent an das Kaiser-Wilhelm-Institut, wo er die Bemühungen der deutschen Regierung um eine Revision des Versailler Vertrages mit Mitteln des Völkerrechts unterstützte. 1927–1929 assistierte er Erich Kaufmann (1880–1972) und Victor Bruns (1884–1943) bei den Verhandlungen vor dem Deutsch-Polnischen Schiedsgericht. 1929 habilitierte sich Schmid mit einer Schrift über einen ständigen internationalen Gerichtshof, in der er sich für die Gleichberechtigung Deutschlands im internationalen Recht aussprach. Schmid war Gegner der faschistischen Ideologie und Politik. Er machte dies u. a. in Appellen an die deutschen Intellektuellen, sich den Nationalsozialisten zu verweigern, deutlich. Dieses Engagement verhinderte seine Chance auf einen Lehrstuhl für Völkerrecht. 1940 wurde er als Wehrmachtsberater und Kriegsverwaltungsrat nach Lille einberufen. Er hatte Kontakt zu Graf von Moltke und war in die Pläne für das Attentat auf Hitler eingeweiht. 1945 übernahm Schmid die Landesdirektion für Kultur in Stuttgart, im Oktober das Amt des Regierungschefs des Regierungsbezirks Württemberg-Hohenzollern, und 1947–1950 war er dort Justizminister. Als Mitglied der SPD wurde er 1947 in der Parteivorstand gewählt, 1946 war er Vorsitzender der Partei in Württemberg-Hohenzollern geworden. Schmid trat für die Verwandlung der SPD in eine soziale Reformpartei ein. Als Mitglied des Parlamentarischen Rates 1948/49 war er an der Formulierung des Grundgesetzes der BRD beteiligt und gilt als einer der geistigen Väter. Er war Mitglied des Bundestages und 1949–1966 und 1969–1972 dessen Vizepräsident. 1966–1969 war er Minister für Angelegenheiten des Bundesrates und 1969–1979 Koordinator der deutsch-französischen Zusammenarbeit. Er bemühte sich auch um die Annäherung zwischen Ost und West. 1956 trat er für die Anerkennung der Oder-Neiße-Grenze durch die BRD ein und 1958 für die De-facto-Anerkennung der DDR. Neben seinem direkten politischen Engagement lehrte Schmid 1946–1953 Völkerrecht an der Universität Tübingen und 1953–1968 Politische Wissenschaften an der Frankfurter Universität. Er verfaßte zahlreiche Publikationen zu politischen Themen und Fragen des Völkerrechts. Schmid war Mitglied des P.E.N.-Zentrums der BRD, Träger des Großkreuzes der BRD und des Frankfurter Goethepreises.