Im Expansion Draft hatten die New York Islanders Smith von den Los Angeles Kings geholt. Noch 1975 war er nach drei Niederlagen ausgewechselt worden und Ersatzmann Glenn Resch brachte das Team zurück in die Serie. Die frühen 1980er Jahre waren dann seine Playoff-Jahre. Nach einer durchschnittlichen regulären Saison blühte er auf. Seine Spielweise, bei der er viel mit seinem Schläger arbeitete, führte die Islanders von 1980 bis 1983 viermal in Folge zum Stanley-Cup-Gewinn. Für Aufsehen hatte er bereits am 28. November 1979 gesorgt, als er in einem Spiel gegen die Colorado Rockies als letzter Spieler am Puck war, bevor Rob Ramage ihn ins eigene Tor spielte. Als er seine Karriere 1989 beendete, war er mit 88 Siegen in den Playoffs der erfolgreichste Torwart und wurde erst einige Jahre später von Patrick Roy überholt.
Nach seiner aktiven Karriere war er als Assistenz- und Torwarttrainer für die Florida Panthers tätig.