Le groupe change constamment de membres. Hari a grandi dans le quartier du Vratnik de la vielle ville de Sarajevo. Son grand-père chantait dans un groupe local appelé Sevdalinke.
En 1979, Hari se joint au groupe Zov avec qui il enregistre le hit Poletjela golubica sa Baščaršije. Puis, Varešanović chante avec le groupe Ambasadori. En septembre 1985, Hari Varešanović, et les membres du groupe Baobab - Izo Kolečić, Edo Mulahalilović, Pjer Žalica, et Zoran Kesić - remportent le festival Nove nade, nove snage, organisé par Želimir Altarac Čičak, et forment le groupe Hari Mata Hari. La même année sort l'album U tvojoj kosi. En 1986, Pjer Žalica (Badžo) et Zoran Kesić quittent le groupe. Ils sont remplacés par le pianiste Adi Mulihalilović et le bassiste Neno Jeleč, qui sera finalement remplacé par Željko Zuber. Leur album sorti en 1986, Ne bi te odbranila ni cijela Jugoslavija, est voté meilleur nouvel album.