El 1559 i de nou el 1564-1568 hi va haver negociacions per a un matrimoni entre Carles i la reina Isabel I d'Anglaterra. L'emperador Ferran I esperava que Isabel signaria un contracte de matrimoni proposat per Carles, pel qual ell com el seu vidu, seria el successor en cas de morir la reina sense fills. Les negociacions es van prolongar fins que la reina Isabel va decidir que es casaria amb l'arxiduc; la religió era el principal obstacle pel matrimoni, a part del caràcter de la reina. El 1563, Carles fou també pretendent de Maria I d'Escòcia, amb el cardenal Carles de Lorena, aconsellant a la seva neboda a fer-ho per tal d'obtenir assistència en el govern d'Escòcia. Maria, però, no va estar d'acord, igual que el germà gran de Carles, Maximilià II
A la mort del seu pare, el juliol de 1564, el va succeir en l'Àustria Interior (Caríntia, Carniola i Estíria) i el Tirol mentre el seu germà gran Maximilià rebia la dignitat imperial i en els regnes d'Hongria, Croàcia i Bohèmia i l'Alta i Baixa Àustria (Àustria pròpia) i l'arxiduc Ferran II d'Àustria l'Àustria Anterior.[1] A diferència del seu germà gran, l'emperador Maximilià, Carles va ser un catòlic convençut i va promoure la contrareforma. Amb tot, era tolerant amb el protestantisme, com ho demostra que el 1572, en la pau religiosa de Graz va permetre la llibertat de culte a Estíria, Caríntia i Carniola i al Libellum de Bruck va ampliar la tolerància.
En ser nomenat emperador el seu nebot Rodolf II, temps després fou víctima d'un desequilibri mental i es va tancar al castell de Praga. Va cedir la direcció política al seu germà, l'arxiduc Ernest, i el comandament militar a Carles II. Al capdavant de la defensa dels dominis hereditaris dels Habsburg contra l'Imperi Otomà va demostrar ser un eficient comandant. Va fer construir la fortalesa de Karlovac a Croàcia, com a línia de defensa contra els turcs.
A mesura que la línia d'Àustria Interior va haver de suportar la càrrega principal de les guerres contra els turcs, la fortalesa de Karlstadt/Karlovac a Croàcia va ser fundada el 1579 i va agafar el seu nom de Carles II.
Carles II també va ser un gran benefactor de l'art i de la ciència; va ser protector de molts artistes (en particular, el compositor Orlando di Lasso i el teòric de la música Ludovico Zacconi) i va fundar la Universitat de Graz (1585) que es diu Karl-Franzens-Universität pel seu nom.
Va morir a Graz en 1590. El seu mausoleu a Seckau, en la qual altres membres de la família dels Habsburg també estan enterrats, és un dels edificis més importants del barroc primerenc als Alps del sud-est. Va ser construït a partir de 1587 en endavant per Alessandro de Verda i completat per Sebastiano Carlone de 1612.
Felix Stieve: Karl II. (Erzherzog von Österreich). A: Allgemeine Deutsche Biographie (ADB). Band 15, Duncker & Humblot, Leipzig 1882, S. 318–322.
Karl II., Erzherzog von Innerösterreich. A: Biographisch-Bibliographisches Kirchenlexikon (BBKL).
Constantin von Wurzbach: Habsburg, Karl II. von Steiermark. Nr. 132. A: Biographisches Lexikon des Kaiserthums Oesterreich. Band 6. Verlag L. C. Zamarski, Wien 1856–1891, S. 358–360 (bei Wikisource).