Longtemps parmi les meilleurs coureurs amateurs, Rudie Kemna compte à son palmarès le Tour d'Overijssel et l'Omloop van de Kempen. Il ne passe professionnel qu'à 31 ans, en 1999, dans l'équipe Batavus, qui devient ensuite Bankgiroloterij. Spécialiste du sprint, il remporte huit victoires durant sa première année, dont des étapes du Tour des Pays-Bas, de l'Olympia's Tour et de l'Étoile des Espoirs. Par la suite, il gagne deux fois consécutivement le Grand Prix Herning (2001 et 2002) et le Tour de Drenthe (2002 et 2003). En 2003, il remporte le championnat des Pays-Bas sur route, le principal succès de sa carrière.
En 2005, Rudie Kemna intègre l'équipe Skil-Shimano, issue de la fusion de Bankgiroloterij et de l'équipe japonaise Shimano Racing. Il y effectue sa dernière année en tant que coureur. Depuis 2006, il est directeur sportif de cette formation, devenue Argos-Shimano puis Sunweb.
En , il avoue avoir eu recours à l'EPO au cours de sa carrière[1],[2]. Il reconnait avoir utilisé des substances interdites au printemps 2003 en tant que coureur sous la direction de Johan Capiot. Il est suspendu pour six mois de son rôle de directeur sportif au sein de l'équipe Argos-Shimano.