Anschließend wirkte er in Beirut als Dozent für Philosophie, Linguistik und Armenisch. Er wurde aufgrund seines Interesses an der armenischen Tradition birituell und hatte das Recht, im lateinischen und im armenischen Ritus Liturgie zu feiern. 1974 wurde er zum Provinzial der Vizeprovinz des Nahen Ostens (Libanon, Syrien und Ägypten) ernannt. 1981 berief ihn der Generalobere Pedro Arrupe zurück nach Rom und betraute ihn mit der Leitung des Päpstlichen Orientalischen Instituts.
Am 13. September 1983 wurde Kolvenbach auf der 33. Generalversammlung des Ordens zum 29. General des Ordens gewählt und löste damit die vom Papst eingesetzten Kommissare Paolo Dezza und Giuseppe Pittau ab. 2007 resignierte Kolvenbach auf sein Amt als General der Jesuiten, erhielt die Zustimmung des Papstes und berief für Januar 2008 eine Generalkongregation zur Wahl eines neuen Generals ein. Die 35. Generalkongregation nahm am 14. Januar 2008 den Rücktritt von Kolvenbach als Generaloberer an.