Adolf Loos växte upp i Brünn (Brno) där fadern Adolf Loos var bildhuggare. Han studerade vid Stiftsgymnasium i Melk men förvägrades vidare studier där efter dåliga betyg i teckning. 1889 avlade han maturaexamen efter studier 1885–1889 vid k.k. deutsche Staatsgewerbeschule i Brünn. Han studerade sedan vid Technische Hochschule i Dresden och även för en kort vid Akademie für angewandte Kunst i Wien. Han blev efter Österrike-Ungerns fall 1918 genom sin hemort Brünn tjeckoslovakisk medborgare.
Han var sedan under några år i USA där han slog sig fram inom olika yrken innan han började med formgivning. 1896 slog han sig slutligen ned i Wien och arbetade som journalist och arkitekt. Han blev en motståndare till Otto Wagners jugendstil. Loos tillhörde i Wien samma radikala kulturkrets som Karl Kraus, Oskar Kokoschka och Arnold Schönberg. Från 1897 och framåt kämpade han för en enkel, osmyckad och saklig arkitektur utan alla slags ornament med den polemiska skriften Ornament und Verbrechen (1908). Han förebådade därigenom funktionalismen.[7]
Hans idéer mötte föga förståelse och hans verk är få.[7] Under 1920-talet bodde han främst i Paris. Han ritade bland annat ett hus åt Joséphine Baker, vilket dock aldrig uppfördes.