Gary studierte von 1881 bis 1884 an der Technischen Hochschule Berlin Architektur und Ingenieurwissenschaften. Anschließend war er Assistent. Später wurde er leitender Angestellter des Materialprüfungsamts in Lichterfelde. Er war Wegbereiter auf dem Gebiet der Baustoffkunde, speziell der Mörtel- und Betontechnik. Dr. Ing. hc. Gary war einer der ersten Dahlemer Ansiedler, erster Vorsitzender der Freien Vereinigung Dahlemer Villenbesitzer und Geheimer Regierungsrat. Er war Mitglied der Gutsvertretung der Domäne Dahlem. Bis zu seinem Tode wohnte er in der Straße Unter den Eichen 91. Gary wurde auf dem St.- Annen-Friedhof in Dahlem bestattet.