Protože by přímé vedení podunajské železnice přes Kelheim vyžadovalo stavbu tunelů, byla železnice vedena východně od města a Kelheim na ni byl připojen 5,5 kilometru dlouhou vedlejší slepou tratí, která se na hlavní trať připojuje na Saalském nádraží. Od roku 1986 na této trati nefunguje osobní přeprava, Kelheim spolu s Tirschenreuthem jsou tak jedinými bavorskými okresními městy bez železničního spojení.
Nejstarší nálezy z Kelheimu pocházejí z doby bronzové. Již v době železné zde bylo veliké oppidumlaténské kultury, identifikované většinou jako keltské město Alcimoennis (známé také jako Alkimoennis). Vnitřní opevnění města bránilo oblast o rozloze asi 60 ha a vnější opevnění asi až 630 ha, ve většině svojí délky měla obě opevnění šířku asi 11 m, ale výšku asi jen 2 m.