Kramsta stammte aus einer 1620 aus Böhmen zugewanderten adligen Unternehmerfamilie (Textilfabrikanten). Er kommandierte bis zu seinem durch einen Militärunfall erzwungenen Abschied vom aktiven Dienst in Berlin als Oberstleutnant und Oberst das 1. Gardekürrassierregiment. Er war ein erfolgreicher und äußerst populärer Rennreiter. Sein Grab befindet sich auf dem Garnisonsfriedhof Columbiadamm.