Nach der Grundschule besuchte Ezra Wheeler bis 1842 das Union College in Schenectady. Im Jahr 1849 zog er nach Berlin in Wisconsin. Nach einem anschließenden Jurastudium und seiner Zulassung als Rechtsanwalt begann er in dieser Stadt in seinem neuen Beruf zu arbeiten. Zwischen 1854 und 1862 war er Bezirksrichter im dortigen Green Lake County.
Nach seinem Ausscheiden aus dem US-Repräsentantenhaus arbeitete Wheeler wieder als Rechtsanwalt in Berlin. Im Jahr 1870 zog er aus gesundheitlichen Gründen nach Pueblo in Colorado. Dort arbeitete er seit Juni 1871 im Katasteramt. Er starb nur wenige Monate später am 19. September dieses Jahres und wurde in seinem früheren Wohnort Berlin beigesetzt.