Premier prix de violon classique, en 1960, au Conservatoire national supérieur de musique et de danse de Paris, son attirance pour le jazz est due aux musiques de Miles Davis et de John Coltrane. Il obtient en 1967 le prix Django-Reinhardt délivré par l'Académie du Jazz et figure sur le double CD 50 ans de prix Django-Reinhardt, sorti chez Nocturne en 2005. Il nie toute influence de Stéphane Grappelli, qu'il appréciait pourtant beaucoup. Ce violoniste français a obtenu une véritable réputation internationale, d'abord via ses collaborations avec Frank Zappa et John McLaughlin puis, à partir de 1975, par sa une carrière très personnelle, faite de sa grande culture classique, de sa volonté de populariser ses champs d'expression, enfin de son goût pour les expérimentations et les métissages stylistiques qui lui valurent en France nombre de railleurs, même et surtout parmi les ex-plus fervents admirateurs de ce « Coltrane du violon » qu'ils avaient initialement vu en lui.
Notons que le guitariste virtuose Daryl Stuermer joua avec lui avant d'aller rejoindre Genesis en 1978 puis, Phil Collins pour sa grande et prolifique carrière solo.
Violoniste purement bebop à ses débuts, devant la difficulté de survivre dans le peu d'espace et de reconnaissance que lui offrait sa carrière « première version », il cède aux sirènes américaines que furent, pour lui, George Duke et Frank Zappa, et se dirige vers le jazz rock en abandonnant les clubs parisiens, tel Le Caméléon, qu'il animait lors des années 1960. Ses expérimentations électroniques furent couronnées de succès, l'artiste obtenant la reconnaissance d'un public plus large - pour preuve les concerts du Mahavishnu Orchestra au festival de jazz de Montreux - bénéficiant bientôt d'assez d'aura pour former ses propres groupes, dirigeant à son tour quelques instrumentistes de grand talent, tels Patrice Rushen, Allan Zavod, Allan Holdsworth, Dan Sawyer, Leon Chancler, Taffa Cissé, Guy Nsangué Akwa, William Lecomte, Thierry Arpino...
Outre une virtuosité époustouflante, aussi doté d'un réel talent de compositeur et de mélodiste, Jean-Luc Ponty a également été un expérimentateur ambitieux, parmi les premiers à combiner le violon à la MIDI, aux effets de distorsions et aux pédales wah-wah. Immédiatement identifiables, ses sons - en attaque comme en phrasé - sont de véritables signatures, obtenant aussi l'ampleur d'un synthétiseur sur les seules cordes de ses violons.
Il a modifié ceux-ci et a ainsi utilisé un violon électrique à cinq cordes, équipé d'une corde basse accordée en do. Il utilisait également parfois un violectra, d'abord à quatre cordes puis à six, avec des basses en do et en fa. Le violon Zeta a ainsi remplacé les vieux barcus berry avec lesquels Jean-Luc Ponty avait été un des précurseurs du jazz-rock. Il rejoue cependant sur un barcus berry sur son dernier album The Acatama Experience, sorti en 2007.
Il travaille en 2014 avec le chanteur du groupe Yes, Jon Anderson, avec qui il sort en 2015 un album intitulé Better late than never.
