Tout au long de sa vie, Beethoven semble avoir été hanté par un thème mélodique que l'on retrouve déjà chez Mozart (dans l'offertoire Misericordias Domini K. 222).
Ce thème est éparpillé dans l'œuvre de Beethoven, sous diverses formes, quoiqu'il semble évident que dès le début le compositeur s'en soit fait une idée précise. On le trouve d'abord dans le lied Gegenliebe, WoO 118 no 2 (1795), sur un poème d'August Bürger : la mélodie y est presque immédiatement reconnaissable, aussi bien que la forme (un thème A et un thème B de deux fois seize temps chacun, chaque thème étant présenté sous la forme antécédent-conséquent selon la forme A, A', B, B').
Treize ans plus tard, Beethoven réutilise ce thème dans la Fantaisie chorale opus 80 pour piano, chœur et orchestre sur un poème de Christophe Kuffner (1808), qui annonce le quatrième mouvement de la Neuvième symphonie à au moins trois égards : pour la première fois, Beethoven introduit des chœurs dans une œuvre orchestrale non religieuse ; la mélodie du thème principal de la section chantée dérive directement de celle de 1795, mais cette fois la disposition thématique est très exactement celle qu'aura l'hymne à la joie (A, A', B, A') ; enfin, l'apologie très claire que fait de la joie le poème de Kuffner élargit encore la comparaison. Quelque peu oubliée de nos jours, la Fantaisie chorale ne manque donc pas d'intérêt historique tant il semble évident que Beethoven s'en est servi d'expérience pour la Neuvième symphonie.
L'hymne à la joie définitif n'est composé qu'au cours de l'année 1823 pour intégrer le quatrième mouvement de la Neuvième symphonie où Beethoven l'utilise avec plusieurs variations.
