Durante sua permanência com o Dixie Dregs, Jordan formou um "power duo" com o baterista Rod Morgenstein. A gênese deste dueto ocorreu durante uma queda de energia elétrica durante um show, onde todos os instrumentos deixaram de funcionar, exceto o teclado de Jordan. Ele e Rod começaram a improvisar até que a energia elétrica voltasse, e o resultado foi tão satisfatório que eles resolveram tocar juntos regularmente, sob o nome de "RMP" (Rudess Morgenstein Project), e chegaram a gravar um álbum de estúdio e outro ao vivo.

Desde 1999 pertence ao Dream Theater. Jordan tem também lançado diversos DVDs de instrução e aprendizagem de teclado e tal como outros membros dos Dream Theater tem participado em projetos paralelos, tal como Neal Morse, com o baterista Mike Portnoy. Aos seus nove anos de idade, Jordan entrou na prestigiosa Juiliard School of Music para treinamento de piano clássico, e aos 19 saiu da mesma formado como pianista. Atualmente, Jordan Rudess utiliza equipamentos como um teclado Workstation KORG Kronos X, um HAKEN Continuum Fingerboard, um KEYTAR Zen Riffer, um KORG Radias, um ALLEN&HEATH Mix Wizard 16 Channels e uma Lap Steel Guitar.