Le fonds musical ancien de la Bibliothèque Mazarine compte quelque 7 à 800 pièces manuscrites et imprimées du IX^e au XVIII^e siècle.

Le cœur du fonds médiéval est composé d’un corpus d’environ 120 manuscrits contenant des notations musicales, identifiés et décrits par Madeleine Bernard en 1966. A l’exception de quelques recueils hagiographiques et de fragments de chansonniers, cet ensemble est essentiellement d’ordre liturgique ; aux missels, majoritaires, ainsi qu’aux bréviaires et psautiers, bien représentés, s’ajoutent des graduels, lectionnaires, rituels, pontificaux, évangéliaires, collectaires, prosaires, et un processional. Un livre d’heures à l’usage de Cîteaux (Ms 472, XV^e s.) contient un office des morts noté, fait exceptionnel pour ce type d’ouvrages destiné à la récitation privée. Ils ont pour lieu de production la France, notamment Paris, mais quelques-uns proviennent de Flandre, des Pays-Bas, d’Italie. Dans ce corpus assez tardif (les XIV^e et XV^e siècles en représentent les deux tiers, le XIII^e siècle, 15 %, les XI^e et XII^e siècles, 15 % également, les IX^e et X^e siècles, 5 %), la notation carrée domine. On compte toutefois une vingtaine d’exemples de notation neumatique, notamment française (le Graduel de Saint-Denis du XI^e siècle – ms. 384 – en est le représentant le plus connu) mais aussi lorraine ou bretonne, ainsi que quelques exemples de notation en points liés ou à petits carrés. Des compléments à cet ensemble sont en cours d’identification (fragments de manuscrits médiévaux, réemplois dans des reliures, manuscrits liturgiques de l'époque moderne).

Le fonds de musique ancienne imprimée représente environ 600 pièces. Les livres liturgiques, majoritairement français, en constituent un grand tiers. La musique instrumentale et vocale, surtout profane, en représente un autre tiers : des chansons polyphoniques de la Renaissance française (Clément Jannequin, Clauden de Sermisy…) imprimées à Paris chez Pierre Attaingnant, des madrigaux publiés à Rome chez Antonio Gardano ou encore des tablatures pour guitare publiées par Adrian Le Roy et Robert Ballard, aux comédies à ariettes du XVIII^e siècle (Favart ou Marmontel pour les textes, Duni ou Grétry pour la musique) en passant par les compositions de Boësset ou Moulinié. Chacun de ces deux ensembles se répartit également sur les XVI^e, XVII^e et XVIII^e siècles. On y observe une large représentation des différentes techniques de production du texte musical : éditions mixtes (imprimées et manuscrites), gravure sur bois, typographie dissociée ou à un temps, taille-douce... Les traités forment un ensemble assez important d’une centaine de pièces, depuis l'Enchiridion musices de Volcyr de Sérouville au Traité de l’harmonie reduite à ses principes naturels de Rameau, en incluant de nombreux ouvrages du Père Mersenne. Le reste du fonds se partage entre différents genres contenant secondairement de la musique notée (par exemple poésie, théâtre).
Constitué en deux étapes principales, les acquisitions faites par Naudé et Mazarin et la sélection opérée par l’abbé Le Blond dans les dépôts littéraires sous la Révolution, ce fonds n’est pas des plus homogènes (Lully, par exemple, en est presque absent). Sur la centaine de documents acquis par Naudé, qui considère la musique sous l’angle de la science et de l’érudition, on compte une majorité de traités musicaux mais aussi de la musique pour luth, des recueils de messes ou motets. Si le fonds musical conserve peu de témoins des nombreuses représentations de musique italienne organisées à Paris par Mazarin, il contient néanmoins quelques exemplaires prestigieux offerts au Cardinal ou à des membres de sa famille (notamment les sonates de l’Ozio regio composées par le violoniste Marco Uccellini, imprimées à Venise en 1660). Les pièces acquises sous la Révolution sont de provenances variées : par exemple un Art de toucher le clavecin de Couperin, exemplaire personnel de son protecteur le comte de Toulouse, ou quelques traités laissés par Mersenne aux Minimes de Paris.

Ce fonds fait l’objet, depuis 2018, d’un programme de numérisation, conduit en partenariat avec la Bibliothèque Sainte-Geneviève et l’IReMus, avec le soutien de la Bibliothèque nationale de France.