Mwinyi war zunächst Lehrer, nach der Revolution auf Sansibar (1964) übernahm er dort leitende Funktionen in der Wirtschaft. 1970 ging er als Mitglied der tansanischen Zentralregierung nach Daressalam und war Staatsminister unter Präsident Julius Nyerere. Ab 1975 war er in verschiedenen Ministerämtern tätig.