Troebetskoj was sinds 1928 samen met Roman Jakobson de belangrijkste vertegenwoordiger van de Praagse School. Als een van de grondleggers van het moderne structuralisme interpreteerde hij taal, aanvankelijk onder invloed van Ferdinand de Saussure, als gestructureerd functioneel communicatiemiddel. Hij vestigde de fonologie, welke hij zuiver structuralistisch interpreteerde, als zelfstandige tak van de wetenschap, evenals de morfofonologie. Zijn belangrijkste werk, Grundzüge der Phonologie, waarin hij onder andere het foneem definieerde als kleinste betekenisonderscheidende eenheid in een bepaalde taal, werd pas postuum in 1939 gepubliceerd. Ook zijn publicaties over de Russische literatuurgeschiedenis en de Indo-Europese talen staan hoog aangeschreven.
Hij stierf op 25 juni1938 aan een hartaanval toen hij in het door de nazi's bezette Wenen werd vervolgd wegens het publiceren van een kritisch artikel over racistische theorieën.