En , lors du premier match international de l'Afrique du Sud depuis la fin de l'Apartheid, il inscrit le but de la victoire (1-0) sur penalty face au Cameroun. Quatre ans plus tard, il fait partie de l'équipe sud-africaine qui remporte la Coupe d'Afrique des Nations à domicile face à la Tunisie. Enfin, en 1998, il dispute avec les Bafanas Bafanas la phase finale de la coupe du monde en France.
Khumalo a pris sa retraite de joueur en 2001. En 2004, il a été élu 62e parmi les 100 plus grands sud-africains de l'histoire.
