Parmi les sciences auxiliaires de l'histoire, la Généalogie et l'Héraldique sont vraisemblablement les mieux représentées dans les collections de la Bibliothèque Mazarine.
La partie ancienne du fonds, noyau historique et confiscations révolutionnaires, rassemble quelque 200 titres, auxquels il convient d'adjoindre environ 120 manuscrits. On y retrouve les références classiques des traités du blason, des recueils généalogiques et armoriaux de la noblesse, des officiers royaux, institutions judiciaires, ordres de chevalerie, congrégations, etc., et les histoires généalogiques des grandes familles. Cet ensemble connut une croissance remarquable à partir des années 1880, en lien avec le développement de la documentation en histoire locale et régionale de la France, à la suite de l'arrêté ministériel plaçant la bibliothèque des sociétés savantes dans les locaux de la Bibliothèque Mazarine. Le texte attribuait directement à celle-ci les ouvrages généraux d'histoire et archéologie locale. Après le départ de la bibliothèque des sociétés savantes (1888), cette orientation se maintint, notamment par les attributions ministérielles d'exemplaires du dépôt légal relatifs à l'héraldique, et se confirma de façon décisive à la faveur de la réforme du dépôt légal en 1925, qui affecta à la Mazarine un exemplaire du dépôt légal imprimeur pour toutes les publications françaises relatives à l'histoire locale. Cette attribution permit à la bibliothèque d'accompagner le mouvement d'élargissement et de démocratisation de la pratique généalogique dans le dernier quart du XX^e siècle, matérialisé par de nombreuses publications, monographies (1 000 depuis 1975, contre le tiers des origines à cette date), collections ou revues (au moins vingt dédiées à la seule généalogie), régionales, départementales ou locales, d'associations spécialisées ou de sociétés savantes couvrant l'ensemble des territoires français. La Bibliothèque Mazarine complète et actualise sa documentation de référence, notamment par l'acquisition courante des instruments de travail généalogiques et héraldiques, mis en libre-accès à la disposition du public.
Les fonds patrimoniaux de la bibliothèque, manuscrits et imprimés, constituent par ailleurs un considérable corpus de marques de provenances héraldiques, armoiries peintes, dessinées, imprimées, estampées ou gravées.