Cresciuto nel Pārdaugava[1], con tale club disputo la Virslīga 1992, primo campionato lettone dalla ritrovata indipendenza[1]. Dopo aver disputatoa anche la stagione successiva con il Pardaugava, nel 1994 giocò nel DAG Riga[2], mentre nel 1995 giocò nell'Amstrig Rīga, in entrambi i casi in Virslīga[2][1].
Ad inizio 1996 si trasferì in Svizzera con il Winterthur[3], con cui disputò 10 partite di Lega Nazionale B 1995-1996 (seconda serie svizzera) mettendo a segno 8 reti[2]. Nell'estate dello stesso anno si trasferì in Germania col Norimberga[3], club con cui disputò e vinse la Fußball-Regionalliga, terza serie del campionato tedesco[2][1]. Cominciò la stagione successiva con l'Erzgebirge Aue[3], sempre in terza serie tedesca[2], ma con minor fortuna, tanto che già a gennaio 1998 fece ritorno in patria giocando per lo Skonto, con cui vinse il suo primo campionato lettone e ottenendo il double con la conquista della coppa nazionale[2]. Con lo Skonto ha anche esordito nelle coppe europee: il 22 luglio 1998 subentrò nei minuti finali a Mihails Miholaps nella partita contro i bielorussi della Dinamo Minsk valido per l'andata del primo turno di qualificazione alla UEFA Champions League 1998-1999[4].
Nel 1999 cambiò nuovamente squadra passando al Valmiera, altra formazione di Virslīga con cui disputò due stagioni[2]. Nel 2001 si trasferì alla squadra in cui ha militato più a lungo, il Ventspils[3]: con questa maglia segnò la sua prima rete europea, il 9 agosto 2001 contro l'HJK, nella partita persa per 2-1 valida per l'andata del primo turno di qualificazione alla Coppa UEFA 2001-2002[5]. Dopo aver vinto la sua seconda e terza Coppa di Lettonia personale[2], Rimkus si trasferì in Russia al Rostov[3]: partito subito titolare nella prima giornata di Prem'er-Liga 2005 contro la Torpedo Mosca, fu sostituito dopo appena sette minuti da Aleksandr Dancev[6] e in seguito trovò sempre meno spazio in squadra, tanto che in otto mesi giocò appena nove incontri di campionato[2] e due di coppa[3]. Ad agosto tornò quindi al Ventspils[3] in tempo per vincere la sua quarta coppa lettone[2]. Negli anni successivi vinse ancora un'altra coppa di lettonia, ma soprattutto tre campionati consecutivi oltre a due titoli di capocannoniere della Virslīga[3][2].
Nel 2010 andò nuovamente all'estero, stavolta in Lituania all'Ekranas[3]: qui totalizzò addirittura un Treble, vincendo campionato, coppa e supercoppa[2] e arrivando secondo nella classifica cannonieri. Ad inizio 2011 giocò per i ciprioti del Doxa Katōkopias[3], con cui retrocesse finendo penultimo nella A' Katīgoria 2010-2011[7]. A luglio tornò quindi in patria con lo Jūrmala[3] e a inizio 2012 allo Spartaks Jūrmala[3], ma dopo pochi mesi e appena una presenza all'attivo[2], si svincolò interrompendo momentaneamente la propria carriera[3]. Tornò a giocare nel 2013 col Gulbene[3] in 1. Līga 2013, sfiorando l'accesso alla Virslīga[2], perdendo lo spareggio promozione contro il Metta/LU[1][8].
L'anno seguente giocò per l'Olaine[2], sempre in seconda serie[1].
Dopo un 2015 che lo vide interrompere nuovamente la propria carriera[3], giocò nel 2016 di nuovo con lo Skonto, 18 anni dopo la sua prima esperienza, con il club iscritto alla 1. Līga 2016[1]. Chiuse la carriera nel 2017 giocando per l'Ogre[3].
Nazionale
Ha esordito in nazionale contro l'Estonia, in un incontro valido per la Coppa del Baltico 1995[9], vinta dalla stessa Lettonia, il 19 maggio 1995. Pochi giorni più tardi mise a segno una doppietta nell'incontro valido per le Qualificazioni al campionato europeo di calcio 1996 contro il Portogallo[10], senza per altro completare la rimonta. Nelle stesse qualificazioni segnò cinque delle undici reti totalizzate dalla sua nazionale.