Schmidt gehörte 1953–62 und 1965–87 dem Deutschen Bundestag an. Zunächst war er der militärpolitische Sprecher seiner Fraktion im Bundestag und setzte sich in den 1950er-Jahren entschieden gegen die atomare Bewaffnung der Bundeswehr ein.