Era l'ultimo dei nove figli di Domenico Jappelli, bolognese chiamato a Venezia come segretario del priorato dell'Ordine di Malta, e da Elisabetta Biondi. A 14 anni assistette alla caduta della Serenissima - da molto tempo in crisi irreversibile per motivi economici e politici - cagionata dall'esercito rivoluzionario francese.
La sua formazione artistica fu forse iniziativa del cugino Luigi Jappelli, pittore e decoratore attivo nel Veneto e poi in Spagna. Nel 1798, morto il padre e seguito dallo zio Filippo, un potente ecclesiastico, si iscrisse all'Accademia Clementina (oggi Accademia di Belle Arti) di Bologna dove attese ai corsi di architettura e figura, dimostrando notevoli capacità nel campo della scenografia. Tornato a Venezia, frequentò poi a Padova il cartografo Giovanni Valle e dal 1803 contribuendo alla famosa pianta di Padova del Valle, divenuto perito agrimensore, si occupò della realizzazione di alcuni lavori di regolazione delle acque del Piave insieme all'esperto idraulico e tecnico delle fortificazioni Paolo Artico.
Nel 1807 entrò nel Corpo degli ingegneri delle acque e strade del Dipartimento francese del Brenta e dell'Alto Po. Nel 1809 si arruolò nell'esercito napoleonico al seguito di Eugenio di Beauharnais, congedandosi quattro anni dopo con il grado di capitano. Fu iniziato alla Libera muratoria nel 1806 con la presentazione del generale francese Miollis e frequentò poi la Loggia La Pace di Padova - ancora oggi esistente all'Obbedienza del Grand'Oriente d'Italia.
Dopo la sconfitta di Napoleone e la caduta del Regno Italico, Jappelli persa temporaneamente la cittadinanza fu costretto a fermarsi in Lombardia dove si dedicò alla ristrutturazione all'inglese del giardino di Villa Sommi Picenardi nei pressi di Cremona, i cui proprietari erano confratelli. Sull'originalità di questo lavoro si fonda la sua reputazione di architetto paesaggista.
Nel 1815 rientrò a Padova, dove progettò una sontuosa scenografia a Palazzo della Ragione in occasione della visita in città dell'imperatore Francesco I d'Austria, il 30 dicembre dello stesso anno. Successivamente progettò e realizzò importanti trasformazioni di parchi e giardini nei dintorni di Padova.
La prima grande occasione si presentò con la progettazione iniziata nel 1816 del grande parco di Saonara commissionatagli da Antonio Vigodarzere. Successivamente, nel 1814 gli venne commissionato il progetto per il rinnovamento del giardino di Villa Selvatico a Battaglia Terme, non realizzato. Nell'aprile del 1815 si verificò la più grande eruzione degli ultimi tre secoli - in Indonesia con il vulcano Tambora. Vennero riversati nell'atmosfera più di 50 km cubi di materiale e la formazione di acqua ed acido solforico negli altissimi strati dell'atmosfera ridussero per i successivi 20 mesi l'irradiazione solare del 30% nel'emisfero boreale causando un brusco cambio climatico, con alluvioni, piogge e perdita di raccolti. Ci furono circa 80.000 morti per carestia. Il conte Vigodarzere venne incontro alla stremata popolazione locale dando lavoro a molti contadini locali per l'arco di 2 anni e li mise in opera per costruire il giardino. Furono piantate 35.000 piante - scavati laghi e corsi d'acqua, create colline artificiali - tutto sotto la direzione molto precisa dello Jappelli. La costruzione del giardino continuò per lunghi anni anche con il cambio del proprietario che divenne Andrea Cittadella Vigodarzere figlio adottivo nonché nipote di Antonio. Fu realizzata in seguito la Cappella dei Templari, tipico esempio neogotico di tempio massonico.
Nel 1817 sposò Elisa Pietrobelli da cui ebbe una bimba, purtroppo morta a 3 anni di morbillo.
Sempre nel 1817 venne nominato ingegnere provinciale a Padova e ricevette importanti incarichi pubblici, tra cui quello per la progettazione delle carceri (che dovevano essere costruite nell'attuale via Morgagni, su modello del panopticon benthamiano), di una nuova sede dell'Università che doveva essere collocata tra le basiliche del Santo e di Santa Giustina con una grandiosa facciata su Prato della Valle, del Cimitero Maggiore e del pubblico macello[1] che, secondo le norme igieniche dettate dal recente codice napoleonico rimasto in vigore anche dopo la caduta di Napoleone, dovevano essere dislocati fuori dall'abitato.
La sfida di Jappelli, aderente alla Massoneria fin dal 1806 e convinto sostenitore degli ideali illuministi, era quella di progettare non degli interventi isolati, ma piuttosto di integrarli in una dimensione tendente a riprogettare lo spazio urbano come un unico insieme di attività, di abitazioni e di servizi, ma il loro carattere utopistico e colossale, e il conservatorismo del mondo politico austriaco, fecero sì che tutti i progetti, tranne quello del macello comunale, rimanessero sulla carta.
Il macello, fino agli inizi dell'Ottocento localizzato nel centro della città, nella zona detta appunto delle "Beccherie" (oggi via Cesare Battisti), venne portato in via Morgagni dove Jappelli progettò e costruì una nuova sede caratterizzata da una facciata neoclassica con otto colonne in stile dorico, che richiama la facciata del Partenone. Utilizzò questa costruzione anche molti materiali lapidei provenienti dalla demolita chiesa gotica di Sant'Agostino (1819) il macello in questa sede cessò di funzionare nel 1909 e dall'anno seguente ospitò la sede dell'Istituto d'Arte "Pietro Selvatico", suo allievo più importante ed è ora in attesa di un restauro (2020).
Nel 1826, Giuseppe Jappelli ricevette da Antonio Pedrocchi l'incarico per la realizzazione del Caffè Pedrocchi. Il piano terra fu completato su modello neoclassico ma sul tipo delle kafeehouse austriache nel 1831 ma i lavori proseguirono fino al 1842, anno in cui fu inaugurato il piano nobile dell'edificio in occasione del Congresso degli Scienziati Italiani. Sono da segnalare la bellissima scalinata e le tre sale di ingresso che rappresentano tre età: quella etrusca a pianta quadrata e corrispondente all'apprendista, quella greca rettangolare in relazione al Compagno e l'ultima a pianta circolare rappresentante l'età romana tracciata dal compasso del Maestro. Il caffè era illuminato a gas anche durante la notte (per allora una grande rivoluzione in una città ancora oscura) e conserva ancora al piano terra la sala verde dove gli studenti della vicina Università possono ancora oggi sedersi senza pagare, avere un bicchiere d'acqua e leggere i quotidiani. Il caffè fu poi donato dal figlio adottivo di Pedrocchi al Comune di Padova che tuttora lo possiede.
L'Architetto ebbe ulteriori incarichi privati da Moisé Trieste per sistemare il parco termale e l'albergo Orologio in Abano, dal dott. Meneghini per il suo giardini di Battaglia (perduto) e dall'Avvocato Dalla Libera sempre per un perduto giardino a Voltabrusegana.
Nel 1821 realizzò il palazzo comunale di Piove di Sacco al posto del fatiscente edificio di epoca carrarese.
Nonostante la sua vocazione frustrata di urbanista, Jappelli ebbe molte commissioni da persone che lo stimavano ed appartenevano alla nobiltà e borghesia aderente agli ideali illuministici ed occultamente alle società latomistiche molti di loro della comunità ebraica che finalmente dopo Napoleone aveva ottenuto più libertà e la possibilità di essere proprietaria di terrene e case.
Negli anni '30 e '40 dell'Ottocento Jappelli ebbe l'opportunità di compiere alcuni viaggi in Inghilterra e in Francia, esperienza fondamentale per una persona attenta e curiosa come lui per l'acquisizione di spunti e idee dall'architettura neogotica e dell'uso di piante esotiche particolarmente cinesi e giapponesi che poi userà molto nei suoi giardini. A Padova, oltre ai progetti già citati, si dedicò alla progettazione del giardino Pacchierotti (fra l'Orto Botanico e il Prato della Valle), del giardino Giacomini (in Via del Santo) utilizzando i mattoni della demolizione del vicino Ospedale per la creazione di collinette su cui troneggia una torre- Loggia massonica e del giardino di palazzo Treves de' Bonfili, oggi proprietà del Comune e aperto al pubblico (ingresso da via Bartolomeo d'Alviano). Esempio di giardino all'inglese, dopo i gravi danni subiti venne restaurato negli anni novanta e si estende su 9600 m².
Fuori Padova, l'emergente ceto borghese si servì di lui per il progetto di residenze prestigiose, tra le quali si ricordano Ca' Minotto a Rosà, Villa Gera a Conegliano e Villa de Manzoni ai Patt di Sedico. Nel 1838 creò anche il giardino all'inglese della Villa Soranzo Conestabile di Scorzè e ampliò l'ala sud della villa.
A Loreggia chiamato dal suo confratello Girolamo Polcastro sistemò il parco. Fu anche chiamato, intorno al 1840, dal principe Alessandro Torlonia per la sistemazione del verde nell'area meridionale di Villa Torlonia a Roma - ora aperta al pubblico e casa di Mussolini durante gli anni 30-40.
Tra gli ultimi lavori di Jappelli sono da ricordare la ristrutturazione del Teatro Nuovo (oggi Teatro Verdi) a Padova e trasferitosi nella natia Venezia seguì l'ambiziosa progettazione (non portata a termine) di un porto commerciale a Venezia, da realizzare sul modello dei docks londinesi che l'architetto aveva avuto modo di visitare qualche anno prima. Convinto sostenitore dei mezzi moderni pensava di portare fino a Rialto la ferrovia allora appena costruita dall'IR governo. Non riuscì a vedere l'arrivo dell'Italia in Veneto morendo nel 1852. È sepolto nel cimitero veneziano di San Michele.
Lionello Puppi, Giuseppe Jappelli: invenzione e scienza, architetture e utopie tra rivoluzione e restaurazione, in L. Puppi e F. Zuliani (a cura di), Padova. Case e palazzi, Vicenza, Neri Pozza, 1977, pp. 223-269, ISBN88-7305-091-3. ISBN 9788873050919.
Franca Pellegrini (a cura di), Giuseppe Jappelli e la nuova Padova. Disegni del museo d'arte, Saonara (PD), Il Prato, 2008, ISBN978-88-6336-008-0.