Kleist war der älteste Sohn eines preußischen Hauptmanns und Großneffe von Ewald Christian Kleist. Früh verwaist, trat er 1792, der Familientradition gemäß, in das Potsdamer Garderegiment ein und machte 1794 den Rheinfeldzug mit. Er quittierte 1799 den ungeliebten Dienst, um sich einem selbst aufgestellten »Lebensplan« zu widmen: Er verlobte sich mit Wilhelmine