Библиотека создана в 1862 г. из частных книжных коллекций. Самой большой была коллекция графа Н.П. Румянцева, поэтому до 1924 г. библиотека называлась Румянцевской.

Старое здание библиотеки - дворец П.Е. Пашкова, который москвичи называют «Дом Пашкова».

Современное главное здание находится рядом с Домом Пашкова и Московским Кремлём.

С 1925 г. по 1992 г. библиотека называлась Государственной библиотекой СССР имени В.И. Ленина.

В фондах библиотеки находится более 44 миллионов книг. В том числе коллекция древних рукописей на разных языках и рукописей произведений русских писателей−классиков - А.И. Герцена, Н.В. Гоголя, Н.А. Некрасова, Ф.М. Достоевского, А.П. Чехова и др.

В библиотеке работают 20 читальных залов. В них одновременно могут заниматься 2500 человек.

В конце ХIХ в. библиотека стала крупным культурным центром России. Её читателями были знаменитые русские писатели: Л.Н. Толстой, Ф.М. Достоевский, А.П. Чехов и учёные: Д.И. Менделеев, К.А. Тимирязев, К.Э. Циолковский.

В библиотеке регулярно проходят концерты, литературные вечера, книжные выставки и встречи с писателями.