Narodil se v San Sabě v Texasu. Jeho matka byla policistka, učitelka a majitelka obchodu, a otec pracoval na ropném poli. Vystudoval St. Mark's School of Texas a chodil na Harvardovu univerzitu, kde byl spolubydlícím Al Gora. Zde také hrál americký fotbal. Absolvoval v roce 1969 cum laude (s pochvalou) a získal titul bakalář svobodných umění.
Poté se přestěhoval do New Yorku, aby se stal hercem. Jeho první vystoupení na Broadwayi proběhlo v roce 1969. V roce 1970 zahrál svou první filmovou roli.
Jones hrál s režisérem Clintem Eastwoodem ve filmu Vesmírní kovbojové z roku 2000.
V roce 2007 si zahrál ve dvou významných rolích, a to ve snímcích V údolí Elah (za kterou byl nominován na Oscara) a oscarovém Tahle země není pro starý.
Od roku 2006 pracuje jako mluvčí pro japonskou společnost Suntory. Objevil se také v několika japonských televizních reklamách firmy Boss Coffee.