Nach dem Abitur begann Riesenburger ein Studium der Zahnmedizin, das er während des Ersten Weltkriegs abbrach. Später absolvierte er an der Hochschule für die Wissenschaft des Judentums in Berlin ein Studium der Religionsphilosophie. Sein offizieller Dienst in der Berliner Jüdischen Gemeinde begann am 1.6.1933. Er war Prediger und Seelsorger im Jüdischen Altersheim in der Großen Hamburger Straße, 1939 wurde Riesenburger Rabbiner. Die NS-Instanzen verhaftete Riesenburger 1942 für kurze Zeit. Danach stand er unter Bewachung. Ab Juni 1943 war er ausschließlich auf dem Friedhof der Jüdischen Gemeinde in Berlin-Weißensee tätig. Nach 1945 erwarb er sich Verdienste beim Wiederaufbau der jüdischen Gemeinde in Berlin. 1953 zum Gemeinderabbiner berufen, setzte er sich für die Entwicklung einer eigenständigen Jüdischen Gemeinde in der DDR ein, deren Landesrabbiner er 1961 wurde.