Im Verein verbrachte er seine komplette Profikarriere (1981 - 1998) bei Borussia Dortmund. In dieser Zeit wurde 1989 DFB-Pokalsieger (4:1 im Finale gegen Werder Bremen) sowie 1995 und 1996 Deutscher Meister. Die Krönung folgte dann 1997 als er mit dem BVB im Champions League Finale mit 3:1 gegen Juventus Turin gewann.
Von 2005 bis 2022 war er zudem Sportdirektor beim BVB. In dieser Zeit wurde die Borussia erneut 2 Mal Deutscher Meister (2011 und 2012) sowie 3 Mal DFB-Pokalsieger (2012, 2017 und 2021). Sie standen in 2 europäischen Endspielen, verloren aber sowohl 2002 im UEFA-Pokal (2:3 gegen Feyenoord Rotterdam) als auch 2013 in der Champions League (1:2 gegen den FC Bayern München).