Bis dahin hatte er aber bereits alles gewonnen was es zu gewinnen gab: Mit dem FC Bayern wurde er 4 Mal Deutscher Meister (1969, 1972, 1973, 1974) und gewann ebenso oft den DFB-Pokal: 1966 (4:2 gegen MSV Duisburg), 1967 (4:0 gegen den Hamburger SV), 1969 (2:1 gegen Schalke 04) und 1971 (2:1 nach Verlängerung gegen den 1.FC Köln). Auch international räumte er mit dem FCB ab: 1967 den Europapokal der Pokalsieger (1:0 nach Verlängerung gegen Glasgow Rangers) und 3 Mal in Folge den Europapokal der Landesmeister: 1974 gegen Atletico Madrid (1:1 nach Verlängerung sowie 4:0 im Wiederholungsspiel), 1975 gegen Leeds United (2:0) sowie 1976 gegen AS Saint-Etienne (1:0). Im gleichen Jahr nahmen sie erstmals am Weltpokal teil und gewannen diesen gegen Cruzeiro Belo Horizonte (2:0 und 0:0).
Auch mit der Nationalelf prägte der die goldenen Siebziger: Nach der Vizeweltmeisterschaft 1966 wurde er 1970 WM-Dritter und schließlich 1974 im eigenen Land Weltmeister. Zuvor wurde er mit der deutschen Nationalmannschaft bereits 1972 Europameister (3:0 gegen die Sowjetunion) und abschließend 1976 Vize-Europameister (2:2 nach Verlängerung, 3:5 im Elfmeterschiessen gegen die Tschechoslowakei)
Neben dem WM-Titel 2014 wurde er auch 2002 Vizeweltmeister (0:2 im Finale gegen Brasilien) sowie 2006 und 2010 WM-Dritter.
Nach 5 Jahren beim 1.FC Kaiserslautern und 3 Jahren bei Werder Bremen wechselte er 2007 zum FC Bayern. Mit den Münchner gewann er sowohl 2008 als auch 2010 das Double aus DFB-Pokal und Meisterschaft. 2010 stand er mit dem FC Bayern auch im Finale der Champions League, unterlag dort jedoch mit 0:2 gegen Inter Mailand.
Ab 2011 spielte er 5 Jahre bei Lazio Rom und wurde dort 2013 Italienischer Pokalsieger durch ein 1:0 im Lokalderby gegen AS Rom.