Grube war Funktionär des Deutschen Holzarbeiterverbandes; 1919 trat er der KPD bei, wurde 1927 zum Kandidaten und 1929 zum Mitglied des Zentralkomitees der KPD gewählt. Er war Abgeordneter des Sächsischen, später des Preußischen Landtages und seit 1930 Abgeordneter des Reichstags. Seit ihrer Gründung 1930 leitete er die "Kampfgemeinschaft für rote Sporteinheit". Grube wurde am 27. Februar 1933 verhaftet und nach siebenjähriger Haft in den Konzentrationslagern Sonnenburg und Buchenwald entlassen. Im August 1944 wurde er erneut inhaftiert, in das Konzentrationslager Sachsenhausen verbracht und bei Räumung dieses Lagers nach Bergen-Belsen transportiert, wo er wenige Tage vor Kriegsende infolge der jahrelangen Haft an Flecktyphus starb.