In der Folge studierte Shively Jura an der University of Michigan. Er machte 1886 seinen Abschluss, wurde in die Anwaltskammer aufgenommen und begann in South Bend zu praktizieren. Am 4. März 1887 kehrte er ins Repräsentantenhaus in Washington zurück; inzwischen war er zu den Demokraten gewechselt. Nach zweimaliger Wiederwahl hatte er sein Mandat bis zum 3. März 1893 inne, ehe er nicht mehr kandidierte und wieder als Anwalt arbeitete. 1896 bewarb er sich um das Amt des Gouverneurs von Indiana, unterlag aber dem Republikaner James A. Mount. Ein weiterer Anlauf zur Wahl ins Repräsentantenhaus schlug 1906 fehl; dafür gelang ihm 1909 der Einzug in den US-Senat, wo er nach der Wiederwahl im Jahr 1914 bis zu seinem Tod am 14. März 1916 verblieb. Im Senat stand er zeitweise dem Committee on Pacific Railroads vor.