Oblasť bola v staroveku pôvodne osídlená Dákmi a Skýtmi, no asi v 7. stor. tu Gréci založili kolóniu Odessos, zvyšky ktorej boli nájdené priamo pod dnešným Primorským bulvárom. Archeologické výskumy potvrdzujú existenciu spojenia medzi Odeským regiónom a východným stredomorím. Mesto neskôr patrilo pod vplyv Rímskej ríše, v 3. stor. bolo pravdepodobne podmanené Gótmi a Herulmi. V stredoveku sa teritórium Odesy nachádzalo pod vládou kočovných kmeňov (Pečenegov, Polovcov), Zlatej Hordy, Krymského chánstva, Veľkého Litovského kniežaťa a konečne Osmanskej ríše.
Prvé písomné zmienky o osídlení Odesy (Chadžibee, Kačibejev) sa datujú od roku 1415. Podľa jednej hypotézy bolo mesto založené koncom 14. storočia veľkým litovským kniežaťom Vitovtom. Chadžbej bol pod priamou nadvládou Osmanskej ríše po roku 1529, a bol časťou regiónu známeho ako Jedisan. V polovici 18. storočia Turci premenovali pevnosť na Chadžibee na Jeni-Dunja.
Nariadením imperátorky Kataríny II. z 27. mája1794 po pripojení sa k impériu bolo založené mesto a prístav Odesa. Najviac osadníkov boli Moldavci, Gréci a Albánci. V 19. storočí sa mesto úspešne rozvíjalo ako obchodný prístav a v súvislosti s exportom obilnín, sa Odesa stala jedným z najväčších obchodných centier štátu. Počas jedného storočia sa zmenila Odesa zo skromného sídla na centrum Nového Ruska a štvrté najväčšie mesto v Ruskom impériu (po Sankt Peterburgu, Moskve a Varšave) a stala sa centrom Chersonskej gubernie. Mesto osídlilo mnoho národností. Žili tu Gréci, Albánci, Tatári, Turci, Rusi, Taliani, Francúzi, Nemci, Bulhari, Ukrajinci, Židia. V meste vznikla grécka škola, uchýlilo sa sem mnoho gréckych vlastncov, ktorí tu vytvorili tajný spolok Filiki Eteria (Spoločnosť priateľov), ktorá organizovala Grécku vojnu za nezávislosť.
Po Októbrovej revolúcii, v polovici januára roku 1918boľševici uskutočnili vojenský prevrat a kontrolu nad mestom prevzala sovietska vláda. 14. marca1918 do Odesy vtrhli rakúske vojská a vláda sovietov bola zvrhnutá. Po prehre v 1. svetovej vojne a v súvislosti s revolúciou v Nemecku a Rakúsko-Uhorsku, rakúske vojská odišli z Odesy. 2. decembra 1918 do Odesy prišli rôznorodé vojská štátov Dohody - srbské, francúzske, grécke. Pod záštitou vojsk Dohody, vojská Dobrovoľnej armády 18. marca 1918 vytlačili z Odesy vojská Petľurovcov. Avšak s nástupom boľševikov, Dohoda a Dobrovoľná armáda 6. apríla 1919 opustili Odesu. Do mesta prišli oddiely atamana Grigorjeva a nastolili sovietsku vládu, ktorá trvala do 23. augusta 1919, kedy do mesta sa opäť vrátili vojská Dobrovoľnej armády. 7. februára 1920 sa moci v meste opäť chopila sovietska vláda.
Po vpáde nacistických vojsk do ZSSR boli v meste obkľúčené 5. augusta 1941 jednotky 25., 95. a 421. streleckej divízie, 2. jazdeckej divízie, 54. strelecký pluk a pluk jednotiek NKVD. Neskôr bola do mesta čiernomorskou flotilou privezená aj 157. strelecká divízia. Tieto vojská pod vedením G. Safronova a neskôr I. Petrova, viedli 73 dní od 5. augusta do 16. októbra 1941 boje proti rumunským vojskám[1]. Po ich evakuácii na Krym celú oblasť okupovali rumunské jednotky. V oblasti bola vytvorená tzv. Transnistria. Mesto bolo oslobodené 10. apríla 1944 vojskami 3. ukrajinského frontu. V roku 1965 bol mestu udelený titul mesto-hrdina.