Schröffer wurde 1903 in Ingolstadt geboren, wo er zusammen mit seinen vier jüngeren Schwestern aufwuchs und 1917 an das Bischöfliche Knabenseminar in Eichstätt wechselte. Bereits 1921, im Jahr vor seinem Abitur, wurde der damalige Eichstätter Bischof Johannes Leo von MergelOSB auf den begabten Gymnasiasten aufmerksam. Nachdrücklich setzte sich Mergel beim Rektor des Collegium Germanicum et Hungaricum in Rom für eine Aufnahme Schröffers in dessen Haus ein. Im Oktober 1922 brach Schröffer nach Rom auf, um dort seine philosophisch-theologischen Studien an der Päpstlichen Universität Gregoriana aufzunehmen. 1925 erwarb er den philosophischen, 1929 den theologischen Doktorgrad, nachdem er am 28. Oktober 1928 die Priesterweihe empfangen hatte. Auf Wunsch des Bischofs blieb Schröffer zwei weitere Jahre in Rom zu vertiefenden Studien im Fach neutestamentliche Exegese.
Sein besonderes Interesse galt der internationalen Zusammenarbeit sowie der deutsch-französischen und deutsch-polnischen Aussöhnung. 1954–67 war er Präsident des deutschen Zweiges der Pax-Christi-Bewegung. Er wurde in die Vorbereitungskommission für das Zweite Vatikanische Konzil berufen und wechselte 1967 auf Wunsch Pauls VI. als Sekretär der Kongregation für das Katholische Bildungswesen in die römische Kurie. Am 2. Januar 1968 wurde er zum Titularerzbischof von Volturnum ernannt. Am 24. Mai 1976 von Paul VI. mit der TiteldiakonieSan Saba zum Kardinaldiakonkreiert, legte er aus Altersgründen mit diesem Tag alle Ämter nieder. Joseph Kardinal Schröffer nahm an beiden Konklaven des Jahres 1978 teil.
Seit 1952 war Schröffer Ehrenmitglied der katholischen Studentenverbindung Rheno-Frankonia Würzburg im KV.
Schröffer starb am 7. September 1983 in Nürnberg. Sein Grab befindet sich im Dom zu Eichstätt.
Wirken
Die schwierigen Verhältnisse in der Nachkriegszeit forderten von Schröffer vor allem tatkräftiges Handeln. Er gründete das St. Gundekar-Werk als gemeinnütziges Wohnungs- und Siedlungsunternehmen, um der Wohnungsnot zu begegnen. Durch den Zuzug der Heimatvertriebenen hatte sich die Zahl der Katholiken im Bistum Eichstätt nahezu verdoppelt. Der Diasporaraum im Norden der Diözese, besonders im Süden Nürnbergs, erforderte einen verstärkten personellen und räumlichen Ausbau der kirchlichen Strukturen: Zahlreiche Pfarrstellen wurden errichtet und siebzig neue Kirchen erbaut.
Schröffer erwarb sich große Verdienste in der nachkonziliaren Reform der Priesterbildung.