À l'emplacement de la place des Carmes s'élevait autrefois l'abbaye de Chantoin, fondée par les premiers chrétiens d'Auvergne. Plusieurs congrégations s'y succédèrent pour finalement céder la place à l'ordre des Carmes Déchaux. Ce dernier fut supprimé au XVIIIe siècle et le monastère vendu comme bien national en 1791. En 1816, contre la somme de 36.000 francs, la Ville acquit une partie de l'enclos des Carmes Déchaux et lui rendit sa fonction première : celle de cimetière.

C'est en effet là que furent enterrés les fondateurs de l'abbaye. Les autres cimetières furent alors fermés et celui des Carmes vit bientôt son importance croître. L'appellation "Carmes Déchaux" ou encore "Déchaussés" tire son origine du nom de cet ordre dont les membres marchaient pieds nus dans leurs sandales de cuir. Venus de Paris, ces pérégrins qui comptaient dans leurs rangs plusieurs Auvergnats, obtinrent, en 1637, le droit de s'établir au monastère de Chantoin, occupé alors par une poignée de chanoines. De cette abbaye, la chapelle de style néo-gothique, surmontée d'une curieuse rotonde, est aujourd'hui l'unique vestige. Suite à l'agrandissement de l'ossuaire en 1992 et à la réfection des bâtiments attenants, le cimetière compte actuellement près de 4.000 tombeaux et chapelles funéraires en pierre de Volvic, alignés le long de cent huit allées et répartis sur onze hectares.

Des hommes célèbres, qui ont façonné l'histoire clermontoise et pour certain d'entre eux l'Histoire, y reposent : Marcel Michelin, Joseph Charras, Emmanuel Baron d'Aubier, Georges Onslow, Jean-Baptiste Bargoin, Alexandre Varenne, Léonard Morel Ladeuil, Jean-Baptiste Blatin, Jean-Baptiste Bonnabaud, la famille Teilhard de Chardin… Ce haut lieu patrimonial est également dédié à la mémoire. Des monuments ont été érigés en souvenir de ceux qui moururent au cours de la guerre 1870-1871, des grands conflits mondiaux 14-18 et 39-45.

Une crypte construite en 1944 pour les morts du maquis non identifiés ou encore vingt-deux tombes d'aviateurs anglais, canadiens et néo-zélandais datant de la Seconde Guerre mondiale rendent compte de manière tangible, de la dureté du conflit, particulièrement dans notre région. Immense livre ouvert sur l'histoire et le souvenir, le cimetière des Carmes, sévèrement affecté par la tempête de décembre 1999, a fait l'objet, depuis, des réhabilitations et aménagements nécessaires, à la diligence de la Ville.