Hij maakte deel uit van de acht in de boot Minerva Amsterdam die op de Olympische Spelen van 1900 in Parijs de derde plaats haalde. Zij kregen geen medaille (die werden bij de Spelen pas vier jaar later ingevoerd) maar een bronzen beeld met het bijschrift dat zij een roeiwedstrijd hadden gewonnen tijdens de Wereldtentoonstelling.
Naast roeier was hij een verdienstelijk hardrijder op de schaats. Hij werd in 1895 op de wedstrijden om het Nederlands kampioenschap in Rotterdam op de ijsbaan te Kralingen vierde op de 1500 meter. Voorts werd hij tweede op het Noord-Hollands kampioenschap van 1893.
Middelberg studeerde scheikunde en was aangesloten bij de Leidse roeivereniging KSRV Njord.
