Ojciec Grossmana, Yitzhak, pochodził z Dynowa. W 1936 roku w wieku 9 lat wyemigrował z owdowiałą matką do Palestyny, ojczyzny swojej przyszłej żony Michaelli, matki Dawida. Małżeństwo doczekało się dwóch synów, Dawid przyszedł na świat jako starszy z braci[2][3].
Twórczość pisarza tłumaczono na wiele języków, m.in. na polski (Kto ze mną pobiegnie). Jego najsłynniejszym dziełem jest powieść Patrz pod: Miłość, w której jednym z bohaterów jest Bruno Schulz. Jedną z jego najbardziej znanych książek jest The Yellow Wind - o życiu Palestyńczyków na terytoriach okupowanych przez Izrael (Strefa Gazy). Spotkała się ona z uznaniem za granicą, natomiast w kraju spotkała się z krytyką i wywołała dyskusję.
Studiował filozofię oraz wiedzę o teatrze na Uniwersytecie Hebrajskim. Następnie pracował w izraelskiej rozgłośni radiowej, w programach dla dzieci (od 1970 do 1984). Następnie zaczął pisać książki: Pojedynek (1982), Patrz pod: Miłość (1986), Bądź mi nożem (1998), Tam, gdzie kończy się kraj (2008).
Jak większość Izraelczyków, popierał Izrael w czasie wojny (kryzys izraelsko-libański 2006). Jednak 10 sierpnia 2006 on oraz zaprzyjaźnieni pisarze Amos Oz oraz A.B. Jehoszua na konferencji prasowej wezwali rząd Izraela do zawieszenia działań militarnych i przystąpienia do negocjacji z rządem Libanu. Działania militarne określili jako groźne dla Izraela oraz przynoszące odwrotny skutek. Dwa dni później jego 20-letni syn, Uri Grossman, zginął od rakiety przeciwczołgowej podczas operacji wojskowej w południowym Libanie, mającej na celu maksymalizację kontrolowanego terytorium, zanim rozejm wprowadzony przez ONZ wejdzie w życie[4].
W 2014 roku pisarz odwiedził Polskę w ramach obchodów wrocławskiego Festiwalu Bruno Schulza[5].
14 czerwca 2017 roku został laureatem Man Booker International Prize[6]. Nagroda w wysokości 50 000 funtów została przyznana pisarzowi i jego tłumaczce, Jessice Cohen, za powieść Wchodzi koń do baru (A Horse Walks Into a Bar), w Londynie[7].