Van der Horst wuchs zusammen mit zwei Geschwistern in Korbach auf. Dort besuchte er die Alte Landesschule Korbach, wo er auch sein Abitur machte. Anschließend machte er eine Ausbildung zum Diplomverwaltungswirt sowie den Master of Public Administration.[2] In den folgenden Jahren war er als Mitarbeiter der Kreisverwaltung Waldeck Frankenbergs tätig und beschäftigte sich dort mit der Kommunalaufsicht, allgemeinen Rechtsangelegenheiten und Ausländerrecht.[2]
Am 16. Dezember 2007 wurde van der Horst zum Bürgermeister von Bad Arolsen gewählt. Er setzte sich in der Stichwahl mit 71,8 % durch.[3] Der Amtsantritt war am 26. Mai 2008.[4] Am 9. Februar 2014 sowie am 1. Dezember 2019 wurde er im Amt bestätigt, wobei er 84,9 % bzw. 93,13 % der gültigen Stimmen erhielt.[5][6] Am 26. September 2021 wurde er mit 51,1 % der gültigen Stimmen zum Landrat des Landkreises Waldeck-Frankenberg gewählt und konnte sich damit gegen den bisherigen Amtsinhaber Reinhard Kubat (SPD) durchsetzen.[7] Unterstützt wurde er von den Freien Wählern, Grünen und der FDP.[2] Sein Amtsantritt erfolgte am 1. Januar 2022.[1]
Er ist stellvertretender Kreisvorsitzender des Deutschen Roten Kreuzes Kreisverband Korbach-Bad Arolsen e. V.[8]
Van der Horst ist verheiratet und Vater von drei Kindern.