Nach Drechslerlehre und Militärdienst schloß er sich 1885 der Sozialdemokratie an und war 1887–1891 Vorsitzender des Deutschen Drechslerverbandes. Am Zusammenschluß der freien Gewerkschaften wirkte er maßgeblich mit und wurde 1890 Vorsitzender der Generalkommission der Gewerkschaften Deutschlands. Er nahm an internationalen Kongressen der Gewerkschaften und der Sozialdemokratie ab 1899 teil, war ab 1903 Sekretär des Internationalen Gewerkschaftssekretariats und ab 1913 Präsident des Internationalen Gewerkschaftsbundes. 1919 wurde Legien Vorsitzender des Allgemeinen Deutschen Gewerkschaftsbundes; 1893–1918 war er mit Unterbrechung Mitglied des Reichstags, 1920 Mitglied des Reichswirtschaftsrats. Sein größter politischer Erfolg nach 1918 war die Organisation des Generalstreiks gegen den Kapp-Putsch. Bestattet wurde er auf dem Zentralfriedhof Friedrichsfelde in der Gudrunstraße.