Troisième de France par sa taille, la collection d'incunables de la Bibliothèque Mazarine provient pour l'essentiel de la bibliothèque personnelle du cardinal Mazarin, des confiscations révolutionnaires, et de plusieurs échanges avec la bibliothèque royale puis nationale. Au sein de la première collection, rassemblée par Gabriel Naudé pour Mazarin, figurait un exemplaire de la Bible latine imprimée par Johann Gutenberg à Mayence vers 1455. En 1652, pendant les troubles de la Fronde, le volume passa temporairement entre les mains de Jean Jobert, avocat au parlement de Paris, qui le restitua à Mazarin après son retour au pouvoir, dès 1654. Cette Bible à quarante-deux lignes n'était alors pas identifiée comme le premier livre imprimé de l'histoire occidentale ; elle acquit cette notoriété au XVIII^_e siècle seulement, du fait de l'expertise bibliographique que pratiqua Guillaume-François Debure vers 1762, justement à partir de l'exemplaire de la Bibliothèque Mazarine. En 1668, à la faveur d'un échange pratiqué à l'initiative de Colbert, environ 150 incunables provenant de la bibliothèque de Mazarin furent soustraits au profit de la bibliothèque royale. Ils sont aujourd'hui conservés à la Réserve des livres rares de la Bibliothèque nationale de France. Mais à l'occasion de ce même échange la Mazarine acquérait des incunables provenant de la collection des rois Aragonais de Naples, de François I^_er ou de sa mère Louise de Savoie. Les confiscations révolutionnaires apportèrent par la suite de remarquables ensembles de livres imprimés au XV^_e siècle provenant cette fois des bibliothèques ecclésiastiques parisiennes (collège de Sorbonne, abbayes Saint-Victor et Saint-Germain-des-Prés) ou belges (Carmes de Malines, Dominicains de Bois-le-Duc).

La part de livres italiens y est importante : 40% des éditions recensées sont imprimées dans la Péninsule, et la collection comporte 75 éditions en langue italienne. Le fonds est largement encyclopédique, mais particulièrement riche dans les domaines de l'histoire, de l'érudition ecclésiastique, de la géographie et des sciences ; la part des livres d'Heures y est plutôt faible, mesurée à des fonds à la volumétrie comparable. Parmi les éditions les plus rares, figurent quelques pièces vernaculaires en français, italien ou néerlandais, notamment un bel ensemble de plaquettes gothiques imprimées à Paris dans les années 1490, ou le seul exemplaire conservé de la première édition du Calendrier des bergers (1491), provenant de la bibliothèque de la cathédrale Notre-Dame de Paris. Parmi les plus beaux volumes enluminés de la collection, on signalera un exemplaire du Lancelot du Lac publié par Antoine Vérard en 1494 et décoré à Paris au tournant des XV^_e et XVI^_e siècles, ainsi que les Epigrammes de Martial, dans l'édition princeps imprimée à Rome vers 1470, et peint par l'anonyme Maître des Putti.

Les incunables de la Bibliothèque Mazarine ont fait l'objet d'un inventaire publié en 1986 ; ils sont aujourd'hui signalés dans le catalogue en ligne de la bibliothèque et dans l'Incunabula Short Title Catalogue. La bibliothèque Mazarine est par ailleurs partenaire du projet des Catalogues régionaux des incunables informatisés (CR2I). Enfin, dans le cadre d'un projet soutenu par la Bibliothèque scientifique numérique, les fac-similés de 250 incunables (unica, exemplaires remarquables) ont été mis en ligne dans la le portail des bliothèques numériques de l'Institut de France, repérables via Gallica, le Sudoc ou Isidore, et téléchargeables au format PDF.