1948 wechselte er nach Spanien zu Real Valladolid und ein Jahr später zu Atlético Madrid wo er in den folgenden 2 Jahren den Meistertitel (1950 und 1951) gewann. Nach Stationen unter anderem beim FC Sevilla (1953 - 1956) und Belenenses Lissabon (1956 - 1958) übernahm er im April 1958 den FC Barcelona.
Mit Barca konnte er sich sowohl in der Liga als auch im Pokal gegen das europäische Spitzenteam Real Madrid (5-facher Sieger im Europapokal der Landesmeister von 1956 bis 1960) durch und gewann sowohl 1959 als auch 1960 das Double aus Meisterschaft und Copa Del Rey. Anschließend wechselte er nach Italien zu Inter Mailand.
Nach Platz 3 und der Vize-Meisterschaft legte er ab 1962 sein Haupt-Augenmerk auf die Verteidigung und machte den Catenaccio berühmt. Durch tiefes Stehen in der eigenen Hälfte sollen die Räume zwischen den einzelnen Spielern so eng gemacht werden, dass kein schnelles Offensivspiel des Gegners möglich ist, andererseits aber genug Platz für das eigene Konterspiel bieten. Aufgrund dieser unattraktiven Spielweise bekam er den Beinamen „Totengräber des Fußballs“, aber der Erfolg gab ihm Recht.
Neben dem Fokus auf die Defensive war er auch einer der ersten Trainer weltweit die die Wichtigkeit der mentalen Stärke erkannten und förderten. Ebenso erkannte er früh die Bedeutung der Zuschauer die als zwölfter Mann der eigenen Mannschaft einen Motivationsschub bringen können.
In den folgenden Jahren wurde er mit Inter Mailand 3 Mal Italienischer Meister (1963, 1965 und 1966) und gewann 2 Mal den Europapokal der Landesmeister: 1964 wurde sie Nachfolger vom Lokalrivalen AC Mailand durch den Sieg im Finale gegen Real Madrid (3:1). Ein Jahr später verteidigten sie ihren Titel durch ein 1:0 im Finale gegen Benfica Lissabon. In beiden Jahren gewannen sie auch den Weltpokal und besiegten CA Independiente sowohl 1964 (0:1 und 2:0 sowie 1:0 nach Verlängerung im Entscheidungsspiel) als auch 1965 (3:0 und 0:0).
Nach dem Halbfinalaus 1966 gegen den späteren Titelträger Real Madrid (0:1 und 1:1) standen sie 1967 erneut im Finale des Europapokals der Landesmeister, verloren jedoch mit 1:2 gegen Celtic Glasgow. 1968 wechselte er zur AS Rom und wurde der bestbezahlte Trainer der damaligen Zeit. Nach dem Gewinn des Italienischen Pokals 1969 legte er auch aus gesundheitlichen Gründen ab 1970 immer größere Pausen ein. Sein letzter Titelgewinn war der Spanische Pokal mit dem FC Barcelona 1981.
Helenio Herrera verstarb am 9. November 1997 mit 87 Jahren im italienischen Venedig.