Nach einem Jahr bei Hannover 96 wechselte er für 3 Jahre zu Union Berlin ehe er 1996 zum damaligen Bundesligisten Hansa Rostock kam wo er wie in Hannover und Berlin auf Frank Pagelsdorf als Trainer traf. Nach nur 2 Jahren wechselte er weiter zu Borussia Dortmund und 2000 schließlich zum Hamburger SV wo er für 6 Jahre blieb.
2001 machte er dabei den FC Schalke 04 fast zum Deutschen Meister. Im letzten Saisonspiel stand es im Hamburger Volksparkstadion lange 0:0 ehe Barbarez in der 90. Minute zum 1:0 gegen den FC Bayern einköpfte. Schalke wäre dadurch Meister geworden und das Volksparkstadion kochte, aber die Münchner erzielten in der Nachspielzeit noch den Ausgleich und sicherten sich den Meistertitel.
Barbarez wurde in dieser Saison gemeinsam mit Ebbe Sand mit je 22 Treffern Torschützenkönig der Bundesliga. Im gleichen Jahr wurde er auch erstmals zu Bosniens Fußballer des Jahres gewählt, ebenso wie 2 Jahre später.
Als Kapitän der bosnisch-herzegowinischen Nationalmannschaft absolvierte Barbarez zwischen 1998 und 2006 49 Spiele und erzielte dabei 17 Treffer. 2005 wurde er in Bosnien-Herzegowina neben seinen sportlichen Leistungen auch Dank seines sozialen Engagements zum Sportler des Jahres und zum Mann des Jahres gewählt.
In den 2 Jahren zum Abschluß seiner Vereinskarriere bei Bayer Leverkusen (2006 - 2008) wurde er im April 2008 mit seinem 324. Bundesligaspiel zum Ausländer mit den meisten Bundesligaspielen.
Im Vereinsfussball hat er hingegen alle bedeutenden Titel gewonnen. Von 1972 bis 1985 war er ausschließlich für den FC Bayern aktiv, wurde 5 Mal Deutscher Meister (1973, 1974, 1980, 1981 und 1985) sowie 2 Mal DFB-Pokalsieger (1982 und 1984). Dabei war er direkt von seinem ersten Einsatz an in allen 375 Bundesligaspielen Stammspieler.
3 Mal in Folge gewann er zudem mit den Münchnern den Europapokal der Landesmeister: 1974 (1:1 nach Verlängerung, 4:0 im Wiederholungsspiel gegen Atletico Madrid), 1975 (2:0 gegen Leeds United) und 1976 (1:0 gegen AS Saint-Étienne). Seine vierte Finalteilnahme war 1982 als der FC Bayern erstmals ein Endspiel verlor (0:1 gegen Aston Villa).