Abram Baldwin Olin wurde ungefähr vier Jahre vor dem Ausbruch des Britisch-Amerikanischen Krieges in Shaftsbury im Bennington County geboren und wuchs dort auf. In dieser Zeit besuchte er Gemeinschaftsschulen und graduierte dann 1835 am Williams College in Williamstown (Massachusetts). Er studierte Jura. Seine Zulassung als Anwalt erhielt er 1838 und begann dann in Troy zu praktizieren. Zwischen 1844 und 1852 war er als Recorder[1] in der City von Troy tätig. Politisch gehörte er der Republikanischen Partei an.
Am 11. März 1863 ernannte ihn PräsidentAbraham Lincoln zum beisitzenden Richter (associate justice) am New York Supreme Court für den District of Columbia – eine Stellung, die er bis zu seinem Rücktritt am 13. Januar 1879 innehatte. Er verstarb am 7. Juli 1879 bei Sligo im Montgomery County und wurde dann auf der Parzelle der Familie Danforth beigesetzt, welche an den West Lawn Cemetery im Williamstown angrenzt.