Il débute à Göttingen des études de droit mais finalement se tourne vers l'histoire de l'art et l'archéologie. Il devient membre du Corps Brunsviga Göttingen(de). Élève à Berlin de Friedrich Wilhelm Eduard Gerhard, il explore en 1856-1857 Samothrace, Imbros, Lemnos ou encore Thasos parmi d'autres îles de l'archipel grec et dessine les ruines et les sculptures. Il relève aussi les inscriptions et écrit une relation sur les paysages ainsi que les mœurs des habitants.
En 1877, il est nommé directeur de la galerie de sculpture des musées de Berlin qu'il transforme en l'un des plus grands musées de ce genre au monde.
Organisateur des fouilles de Pergame (1878-1886 et 1901-1915), il obtient une importante allocation royale et l'achat du site au gouvernement turc, le tiers des trouvailles étant alors cédé aux musées de Berlin.
Directeur de l'Institut archéologique allemand (1887-1905), il transmet la responsabilité des fouilles de Pergame à l'Institut. Ses recherches de céramologie sur les vases de Mélos sont une référence en établissant une période géométrique se distinguant de l'orientalisante par une analyse des techniques qui sera confirmée par les découvertes de la nécropole du Dipylon d'Athènes en 1871.
Uber die Bedeutung der klassischen Archäologie, 1869
Zur Geschichte des Anfänge der griechischen Kunst, in Sitzungsberichte des K. Akademie der Wissenschaften no 6, 1870
Archäologische Untersuchungen auf Samothrace I-II, avec A. Hauser et G. Niemann, 1875-1880
Die attischen Grabreliefs, 4 vol., 1893-1922
Pro Pergamo, 1898
Unsern Kindern gewidmet, 1908
Alterthümer von Pergamon, 1912
Bibliographie
H. Dragendorff, A. Conze Gedächtnisrede gehalten am Winckelmannstag, 1914
A. H. Borbein, Ernst Curtius, Alexander Conze, Reinhardt Kekulé. Probleme und Perspektiven der klassischen Archäologie zwischen Romantik und Posidivismus, in L'Antichtà nell'Ottocento in Italia e Germania, 1988, p. 275-302
Ève Gran-Aymerich, Les Chercheurs de passé, Éditions du CNRS, 2007, p. 722-723
Ulrich von Wilamowitz-Moellendorff: Alexander Conze (1831–1914). Sitzungsberichte der Königlich Preußischen Akademie der Wissenschaften zu Berlin 1916, p. 754–759.
Karl R. Krierer: "Ich schwamm in ein Meer aus dem hallischen kleinen Gewässer". Alexander Conze in Wien, 1869–1877. In: Günther Schörner / Julia Kopf (Hrsg.): 1869–2019. 150 Jahre Klassische Archäologie an der Universität Wien. Phoibos, Wien 2021 (ISBN978-3-85161-247-9), p. 149–161.