Di Frankfurt ia terus mencari agen kimia lainnya untuk digunakan melawan penyakit. Ia berkolaborasi dengan kerja kimia Casella yang berdekatan, yang mendanai contoh senyawa kimia baru yang diproduksi di laboratotiumnya buatnya untuk menguji kegiatan biologis. Pada 1906Georg-Speyer-Haus, sebuah lembaga penelitian untuk kemoterapi, didirikan dengan stafnya sendiri di bawah arahan Ehrlich. Sebagian program riset itu dipandu teori Ehrlich bahwa kemampuan molekul obat pembasmi kuman penyakit bergantung pada strukturnya, khususnya sisi rantainya, yang bisa berikatan pada organisme yang menyebabkan penyakit. Produk paling berhasil dari penyelidikan ini ialah Salvarsan (1909–1910)—dihidroksidiaminoarsenobenzenadihidroklorida—dan Neosalvarsan (1912), obat paling efektif untuk mengobati sifilis hingga ditemukannya antibiotik pada 1940-an.