Er experimentierte bereits 1792 mit Gleitflugmodellen. Caylay erkannte, daß an Tragflächen Auftrieb entsteht, für die Querstabilität eine V-Form der Flügel wichtig ist, die Längsstabilität des Flugzeugs durch ein Leitwerk hinter den Tragflächen erzeugt wird und eine Luftschraube das Flugzeug antreiben kann. Er erprobte 1809 einen Hängegleiter und soll zwischen 1848 und 1853 mit Gleitflugzeugen Strecken bis zu 500 m zurückgelegt haben.