Dès le Moyen Âge, la cathédrale disposa d'un orgue. Ce premier fut remplacé, à la fin du XVIe siècle, par un nouvel instrument installé au-dessus de la porte sud puis, déplacé. Celui, sans doute, sur lequel le célèbre compositeur Jean-Philippe Rameau exerça son génie, de 1702 à 1706 puis de 1717 à 1722. Après avoir échappé, par miracle, à la destruction pendant les excès révolutionnaires de 1794, il subsista dans la cathédrale jusqu'en 1848, où l'on décida de le remplacer.
En 1850, un nouvel orgue est installé au fond de la nef, sur une tribune provisoire de la cathédrale alors inachevée. Vers la fin de 1873, les travaux d'agrandissement entrepris par Viollet-Le-Duc étant presque terminés, on abattit le mur qui séparait la partie ancienne de l'église des nouvelles travées et démonter l'orgue qui y était adossé. La construction d'un instrument plus grand est alors décidée et confiée, en 1874, à Joseph Merklin. Après trois ans de travail, l'orgue monumental sort des ateliers du facteur lyonnais et s'installe dans un buffet de style gothique de quelque douze mètres de haut, parfaitement intégré au nouvel aspect de l'édifice.
Trois claviers manuels de 54 notes et un pédalier de 27 notes, pour un total de 2.562 tuyaux. Avec un seul doigt, l'organiste peut faire vibrer jusqu'à 50 tuyaux (les claviers pouvant s'accoupler) et a la possibilité de jouer 42 instruments différents, qu'il peut faire varier en timbre et puissance. Le rapport de la commission d'expertise publié après l'installation, rapporte que "le nouvel orgue de Clermont-Ferrand peut facilement prétendre à la plus haute perfection que la facture moderne ait atteinte jusqu'à ce jour". L'inauguration de l'orgue eut lieu le 26 mai 1877. Elle fut, selon La Gazette d'Auvergne, "une véritable fête musicale… un triomphe… seule la sainteté du lieu a empêché les applaudissements d'éclater".
En 1912, l'orgue est équipé d'un moteur électrique. En 1935, de profondes modifications sonores lui sont apportées et, en 1962, l'électrification des claviers est réalisée. Edmond Lemaigre fut le premier organiste titulaire. Il nous a laissé plusieurs pièces d'orgue. En 1888, Aloÿs Claussmann, d'abord maître de chapelle de la cathédrale, prend la relève. Il composa de nombreuses pièces pour piano, musique de chambre, musique vocale et surtout orgue avec environ 350 morceaux. Il fut également le fondateur, en 1909, de l'école de musique municipale devenue ensuite le Conservatoire de musique. Un monument à son effigie est situé dans un petit square longeant la rue Blatin. Louis Gemont, le chanoine Raffin, Denis-Mathieu Chiquet, Roger Moreno lui succédèrent. Depuis 1999, François Clément, professeur d'orgue au Conservatoire, est le titulaire officiel, avec Didier Couderc pour cotitulaire.