Durant l'intersaison, les Cavs se séparent de leurs deux meilleurs marqueurs : Miller est envoyé aux Los Angeles Clippers contre Darius Miles, un jeune ailier athlétique, Lamond Murray est envoyé à Toronto contre un futur choix de draft. La saison est littéralement sabordée, pour augmenter les chances d'obtenir le premier choix de la draft : les Cavs ont déjà en vue LeBron James, le lycéen qui est déjà un phénomène local et au potentiel illimité. Ils finissent derniers de la ligue, ex aequo avec les Denver Nuggets. Mais la loterie les départage en leur faveur, ils obtiennent le premier choix.
La saison 2003-04 démarre avec une ferveur qu'on n'avait plus vu depuis longtemps à Cleveland. James répond à toutes les attentes et devient meilleur marqueur de l'équipe. Il est nommé rookie de l'année. Les Cavaliers manquent les play-offs d'une victoire, à cause d'une fin de saison catastrophique mais l'avenir du club semble rayonnant.
Cependant, le départ de Carlos Boozer est un coup dur pour l'équipe. Ce dernier demande au club, durant l'été 2004, de lever l'option d'un an supplémentaire qu'elle détient, pour resigner immédiatement un plus long contrat. Le staff des Cavs accepte, mais une fois l'option levée, Boozer signe immédiatement un énorme contrat avec le Utah Jazz que les Cavs ne peuvent égaliser. La franchise s'en sort honorablement en remplaçant Boozer par Drew Gooden qui réalise alors sa meilleure saison. Si sur le plan individuel LeBron James progresse, l'équipe manque une nouvelle fois les play-offs de peu, alors qu'elle était en tête de sa division au début de la saison.
Afin de retrouver les play-offs dès la saison 2005-06 qui débute, les Cavs nomment Danny Ferry, l'ancienne gloire du club, au poste de manager. Peu après son arrivée, il conclut un nouveau contrat avec Zydrunas Ilgauskas et recrute 2 agents libres de bon calibre, Larry Hughes et Donyell Marshall. Le premier sort d'une saison à Washington au cours de laquelle il a été le seul joueur de la ligue à aligner au moins 22 points, 6 rebonds, 4 passes et 2,5 interceptions. Le second, en provenance de Toronto, est un ailier expérimenté qui détient le record NBA du nombre de paniers à 3 points marqués en un match (12). Fort de ce recrutement de qualité, la franchise de Cleveland réalise un excellent départ avec un bilan en novembre 2005 de 10 victoires pour 4 défaites. Après 3 mois équilibrés, l'arrivée de Ronald Murray en provenance des Sonics relance la machine qui se remet à gagner à l'approche des play-offs.
Dans le sillage d'un LeBron James au-delà des 30 points par match et présent dans le top 20 de plus de 25 catégories statistiques, les Cavs obtiennent 50 victoires pour la première fois depuis 1993 ainsi qu'une qualification en phase finale attendue depuis 1998. opposés aux Washington Wizards, la série se joue autour du duel entre James et Gilbert Arenas. Dans le sillage de King James, les Cavs remportent la confrontation en 6 matches avant de défier les Pistons. Après avoir mené à la surprise générale 3 victoires à 2, les Cavaliers s'inclinent finalement face à la défense de fer de la franchise de Détroit. Cleveland ne marque que 61 points lors du match numéro 7, établissant le record du plus faible total pour un match décisif de play-offs.
Lors de la saison 2006-2007, les Cavaliers créent la surprise en play-offs. Ils ont remporté la finale de conférence face aux Pistons de Detroit pour la première fois, de l'histoire de la franchise. Alors que ces derniers menaient 2 à zéro, les Cavs ont remporté les quatre matches suivantes, un exploit réalisé seulement par les Baltimore Bullets et les Chicago Bulls seules formations à avoir réussi pareil exploit précédemment. Exceptionnel lors du Game 5 (48 points dont 29 des 30 derniers de son équipe), LeBron James est évidemment la clé de ces performances avec le soutien de l'inattendu rookie Daniel Gibson notamment dans le Game 6 (31 points avec 5/5 à 3 points1).
Le sort de la finale n'en sera que plus cruel, puisque Cleveland perd la série 4 à 0 contre San Antonio.
Le 22 mars 2008, à seulement 23 ans, Lebron James devient le meilleur marqueur de l'histoire des Cavaliers, avec 10 414 points en seulement 5 saisons en NBA. Record battu face à Toronto
Cleveland réalise finit premier de la Conférence et de la NBA avec 66 victoires pour 16 défaites, le record de la franchise. Les Cavs rencontrent au premier tour des Playoffs les Pistons de Detroit menés par Richard Hamilton. Detroit est privé d'Allen Iverson, blessé au dos et se fait balayer 4 - 0 par les Cavaliers. En demi-finale les Cavs rencontrent les Hawks d'Atlanta qui sortent d'un premier tour difficile face au Miami Heat. Cleveland balaye les Hawks 4 victoires à 0.
En finale de conférence, les Cavs rencontrent le Magic d'Orlando. Le collectif d'Orlando étant trop fort et les intérieurs de Cleveland se faisant dominer par Dwight Howard, les Cavs sont défaits 4-2 par les Magics aux portes des Finales NBA, malgré un LeBron James toujours aussi étonnant.
Le jeudi 25 Juin 2009, les Cavaliers échangent Ben Wallace et Sasha Pavlovic contre le pivot star de la NBA, Shaquille O'Neal en provenance des Suns de Phoenix. Le GM des Cavaliers Danny Ferry espère qu'en associant LeBron James et le pivot le plus dominant des années 2000, Cleveland pourra remporter son 1er titre NBA.