Graumanns Eltern, Überlebende des Holocaust, kamen 1952 nach Deutschland zurück. Graumann wuchs in Frankfurt a. M. auf, studierte dort Volkswirtschaft sowie später in London Jura. Nach seinem Abschluss arbeitete er zunächst bei der Deutschen Bundesbank, dann als selbstständiger Immobilienkaufmann in Frankfurt.