Jordan fut reconnu dès son plus jeune âge par un de ses professeurs comme ayant un très fort potentiel de pianiste. Il reçut alors des cours professionnels pour développer son prodigieux talent. À l'âge de neuf ans, il entra dans la prestigieuse Juilliard School pour une formation de piano classique. Mais quelques années plus tard son intérêt pour les synthétiseurs et le rock progressif avait pris une place importante. Contre l'avis et la volonté de ses parents et de ses professeurs, il décida de laisser de côté le piano classique et de devenir claviériste de rock progressif.
Après avoir participé à de nombreux projets durant les années 1980, il obtient la reconnaissance en 1994 en étant nommé "Best New Talent" (meilleur nouvel artiste) par les lecteurs de Keyboard Magazine suite à la sortie de son album solo Listen. Parmi les groupes qui remarquèrent alors son talent, les Dixie Dregs et Dream Theater proposèrent tous les deux à Jordan de les rejoindre. Il choisit les Dregs principalement pour la possibilité de pouvoir être membre à temps partiel en réduisant ainsi l'impact sur sa jeune famille, possibilité qu'il n'avait pas avec Dream Theater.
Durant sa période avec les Dixie Dregs, Jordan forma un "power duo" avec le batteur Rod Morgenstein. Duo dont l'origine remonte à une défaillance électrique lors d'un concert avec les Dregs qui empêcha tous les instruments de fonctionner hormis ceux de Jordan. Rod et Jordan improvisèrent alors ensemble jusqu'à ce que le problème soit réparé et que le concert puisse reprendre son cours normal. L'alchimie entre les deux musiciens fut si forte lors de ce bœuf qu'ils décidèrent de jouer ensemble de manière régulière sous le nom Rudess/Morgenstein Project. Ils ont sorti un album studio et un enregistrement live.
Jordan fut à nouveau en contact avec Dream Theater quand lui et Rod firent la première partie de leurs concerts lors d'une tournée nord-américaine.
En 1997, quand Magna Carta demanda à Mike Portnoy de former un "supergroupe", Jordan fut choisi comme claviériste. Tony Levin à la basse et John Petrucci à la guitare complétèrent la formation de Liquid Tension Experiment. Durant l'enregistrement des deux albums, il devient évident à Mike et à John que Jordan était précisément la personne dont Dream Theater avait besoin. Ils demandèrent alors à Jordan de les rejoindre et remercièrent Derek Sherinian (alors claviériste de Dream Theater).

Jordan est claviériste à plein temps de Dream Theater depuis l'enregistrement en 1999 de Metropolis, Pt. 2: Scenes From a Memory. Il a ensuite enregistré avec le groupe quatre autres albums studios : Six Degrees of Inner Turbulence en 2002, Train Of Thought en 2003, Octavarium en 2005 et Systematic Chaos en 2007, ainsi que Black Clouds and Silver Linings en 2009.

source : http://fr.wikipedia.org/wiki/Jordan_Rudess