Teológiát tanult Jénában, majd Lipcsében, ahol unokatestvérének, Johann Sebastian Bachnak volt személyi titkára, és gyermekeinek tanítója. Bach zeneszerzésre is tanította Johann Eliast. Az általa leírt levelek igen fontos szerepet töltenek be a Bach-kutatásban.
1743-tól haláláig Schweinfurtban volt orgonista, ott két évfolyamnyi egyházi kantátát írt, amelyek akkoriban nagy sikert arattak, de mára elvesztek.