De lange knivers natt førte til en reorganisering av SS og medførte at en rekke nye grader ble innført, og kunne slik skille SS ytterligere fra Sturmabteilung (SA).
Allgemeine-SS
Innen Allgemeine-SS hadde en unterscharführer vanligvis kommando over en liten enhet på mellom syv og 15 SS-menn. Også folk som hadde stabsoppgaver innen organisasjonen kunne ha denne graden, også innen SS-enheter som Gestapo, Sicherheitsdienst og Einsatzgruppen.
SS-Totenkopfverbände
I tjenesten ved konsentrasjonsleirene gjennom SS-Totenkopfverbände, hadde ofte unterscharführer funksjonen som såkalt Blockführer, og var de som hadde det overordnede ansvaret for en fangebrakke i konsentrasjonsleiren. Dette gjorde at graden gjennom posisjonen som Blockführer ble en sentral posisjon i Holocaust, da det oftest var en Blockführer som ledet de ulike Sonderkommandoene.
Waffen-SS
I Waffen-SS ble graden som unterscharführer brukt som lagfører eller nestleder av en tropp. Graden ble ansett for å være likestilt med den laveste offisersaspirantgraden SS-Junker.