Le rapprochement de certaines bibliothèques parisiennes avait été initié par un décret du 29 août 1923 qui créait un comité consultatif commun à la Bibliothèque nationale, à la bibliothèque Mazarine, à la bibliothèque Sainte-Geneviève et à la bibliothèque de l'Arsenal. Cependant, le décret du 18 juin 1925 attribuait la personnalité morale à la seule Bibliothèque nationale. Un des objectifs de la décision de 1926 est donc de combiner la souplesse de l'établissement public et les avantages du rapprochement des bibliothèques.
Le décret du 28 décembre 1926 sur la nouvelle organisation des bibliothèques nationales de Paris est complété par deux décrets rendus le même jour, dont le premier supprime et remplace plusieurs emplois de fonctionnaires, notamment pour remplacer des bibliothécaires par des assistants de bibliothèques, et le deuxième permet au ministre de l'Instruction publique de transférer des fonctionnaires d'une bibliothèque à l'autre au sein de la Réunion. La réunion est ensuite organisée par un règlement d'administration publique du 18 septembre 1927.
Au moment de la création, la réunion comprenait :
la Bibliothèque nationale ;
la bibliothèque de l'Arsenal ;
la bibliothèque Mazarine ;
la bibliothèque Sainte-Geneviève ;
la bibliothèque et musée de la Guerre, devenue Bibliothèque de documentation internationale contemporaine en 1934.
En 1928 et 1930 respectivement, la bibliothèque et musée de la Guerre et la bibliothèque Sainte-Geneviève sont retirées de la Réunion et confiées à la chancellerie des universités de Paris. Elles feront ensuite partie du réseau des bibliothèques interuniversitaires d'Île-de-France.
En revanche, trois nouvelles bibliothèques sont ajoutées à la Réunion : en 1935, la bibliothèque-musée de l'Opéra et la bibliothèque du Conservatoire de Paris, puis, en 1938, le Centre de documentation économique.
En 1945, la bibliothèque Mazarine et le centre de documentation économique sont retirés de la Réunion. La Réunion des bibliothèques nationales tend alors à se confondre avec la Bibliothèque nationale, d'autant que les bibliothèques qui restent membres de la Réunion sont peu à peu intégrées à la BN elle-même, soit pour former un département (Arsenal), soit pour être intégrés à un département (conservatoire et Opéra au sein du département de la Musique). Lors de sa dissolution par le décret no 77-1274 du 19 novembre 1977, la Réunion correspondait à la Bibliothèque nationale dans ses différents départements. C'est alors la Bibliothèque nationale qui récupère la personnalité civile et l'autonomie financière attribuée auparavant à la Réunion, en devenant un établissement public national à caractère administratif (art. 2).