A Sváb-Alb délkeleti peremén, Bajorország határán fekszik, a Duna partján. 120 ezer lakójával Németország egyik legkisebb nagyvárosának számít. A Duna jobb oldalán fekszik Ulm ikervárosa, Neu-Ulm, amellyel együtt mintegy 170 ezer lakója van.
A város területe már az újkőkorszakban is lakott volt. Alemann település létét a főpályaudvar közelében feltárt nagy temető is bizonyítja. Ulm első említése 854-ből származik, Ulmot ekkor „Karoling palotá”-nak nevezték. A Salierek 1024-1125 közötti és a Stauferek 1138-1268 közötti uralkodása alatt sok, a sváb hercegség és a német birodalom történetét befolyásoló döntés született. Barbarossa Frigyes emelte városi rangra 1164-ben.
1347-től Ulm városát patríciusok és céhek kormányozták. Alkotmányát, mely egyike a legrégibb írásos városalkotmányoknak, 1397-ben a „Nagy eskülevél”-ben szabályozták. Július utolsó hétfőjén máig ennek az eseménynek az emlékét ünneplik meg Eskü hétfője néven. A várost messze földön ismerték mesterdalnokairól;[3] ezek iskolája és egylete egészen 1839-ig működött.[4]
Az ulmi nagytemplom alapkövét 1377-ben rakták le, az épületet a város nagysága és gazdagsága szimbólumának szánták. A székesegyház építésében neves művészek vettek részt, akik a késő gótika egy sváb fajtáját, az „ulmi művészet”-et hozták létre. A székesegyház német építőmesterein (a Parler család három tagja, Ulrich és Matthäus Ensingen, Matthäus Böblinger, Burkhart Engelberg) kívül megemlíthető még az 1425-1491 között élt Hans Multscher szobrász és fametsző és az 1480-1518 között élő Bartolomäus Zeitblom festő mint a kor Ulmban alkotó nagy művészei. A 15. és 16. század volt Ulm egyik aranykora, a városban előállított kiváló minőségű textilek gazdaggá tették a települést, és ez a helyi művészeti életet is fellendítette. A város területe földvásárlások által majd négyszeresére nőtt, végül Németország második legnagyobb birodalmi városává fejlődött. 1530-ban Ulm is elkötelezte magát a reformáció mellett. Ekkor sok templomot és kápolnát is lebontottak.
1803-ban teljes eladósodása miatt elvesztette a „szabad birodalmi város” kiváltságokat. I. Napóleon az ulmi csatában legyőzte az osztrák csapatokat 1805-ben. A napóleoni háborúk után 1810-ben, miután a város átpártolt a Württemberg hercegséghez, lebontották a régi városkapukat is, és csak 1842-1867 között építettek új erődítményeket.
A lakosság száma a második világháború előtti években elérte a 100 ezret. A háború folyamán a bombázások elpusztították a városközpont 80%-át. 1944. október 18-án itt tartották Erwin Rommel állami temetési ünnepségét. Az újjáépítés folyamán igyekeztek a belváros történelmi képét megtartani.
Az Ulmi nagytemplom tornya 161,53 m magasságával a világ legmagasabb templomtornya; 1890-től 11 évig a világ legmagasabb épületének számított. Mellette puritán szépségű, építése idején többek által kritizált, ultramodern városháza áll.
A városban található az egyik leggazdagabb gyűjteménnyel rendelkező Kenyér Múzeum.