Nach dem Studium übte er den Pfarrdienst in verschiedenen Gemeinden aus und war u. a. von 1934 bis 1945 Pfarrer in Kaulsdorf. Ab 1937 leitete Grüber die von ihm gegründete Hilfsstelle für evangelische Rassenverfolgte ("Büro Grüber"). Die Nationalsozialisten hielten ihn darauf von 1940 bis 1943 in den Konzentrationslagern Sachsenhausen und Dachau gefangen. 1945/46 gehörte er dem 1. Nachkriegsmagistrat im Range eines Stadtrates als Beauftragter für evangelische Kirchenfragen an. 1946 wurde er Propst an der Marienkirche in Berlin. Von 1949 bis 1958 war Heinrich Grüber Bevollmächtigter der Evangelischen Kirche Deutschlands bei der Regierung der DDR. Sein Ehrengrab befindet sich auf dem Kirchhof der Domkirchen-Gemeinde, Müllerstraße. Grüber war Ehrendoktor der Berliner Humboldt-Universität (1948) und der Prager Karls-Universität (1956).