Этот участок на углу Садовой улицы и Невского проспекта ранее входил в состав усадьбы А. М. Девиера, а затем Аничкова дворца. Здесь располагался "Аничков дом", который в XVIII веке был центром книжной торговли. В Аничковом доме работали книжные лавки М. К. Овчинникова, Т. А. Полежаева, Г. К. Зотова и других.
Здание первой в России Публичной библиотеки построено в 1796-1801 годах архитектором Е. Т. Соколовым. Эта библиотека одна из крупнейших в мире, вторая в стране после Российской Государственной Библиотеки им. В. И. Ленина в Москве. Она основана в 1795 году, открыта 10 января 1814 года после размещения здесь книжного собрания.
Первым директором Публичной библиотеки стал А. Н. Оленин. И. А Крылов разработал систему каталогизации фондов. В библиотеке трудились Н. И. Гнедич, А. А. Дельвиг, К. Н. Батюшков, В. Ф. Одоевский, В. В. Стасов. В основу фондов легло собрание книг польских меценатов братьев Залусских, доставленное из Варшавы в Петербург в 1795 году. С 1810 года фонд пополнялся обязательным экземпляром всех отечественных изданий, а с 1815 года - отдельных листов, нот. К середине XIX века собрание имело уже более 90% изданий России, вышедших с начала книгопечатания. Библиотечную коллекцию пополняли собрания Н. И. Пирогова, В. Я. Струве, М. В. Остроградского, В. И. Даля, Н. И. Костомарова.
Строительство корпуса на углу Невского проспекта и площади Островского было задумано Карлом Росси ещё в 1810-х годах, когда он перестраивал интерьеры Аничкова дворца. Вместе с этим по своей инициативе он создавал и проект новой площади. Этот проект и предусматривал расширение библиотеки. Воплотить задуманное в жизнь Росси удалось после решения Николая I привести в порядок пространство рядом с великокняжеским дворцом.
Проект зданий вокруг площади, в том числе и здания библиотеки, был утверждён 5 апреля 1828 года. Здание Александринского театра начало возводиться сразу же, а работы над новым корпусом библиотеки оказались приостановлены. Архитектор задумал здесь некоторые конструкции из металла, что запретил император. Николай I повелел делать всё из камня, пришлось переделывать проект. Сам Росси отказался от переделки, поручил эти работы своему помощнику Аполлону Щедрину. Директор библиотеки А. Оленин не возразил, дав задание в первую очередь думать не о красоте возводимого здания, а об удобстве для книгохранения. Новые планы и сметы Щедриным были составлены к 21 июля. Одновременно с их утверждением начались работы по забивке в грунт 2427 свай. 2 августа, когда был утверждён проект, уже возводились стены. На стройке работало около 1 500 человек.
Несмотря на изначальное участие в проектировании, Карл Росси отказался от дополнительного жалования в 3 000 рублей в год. Он посчитал более верным платить эти деньги Аполлону Щедрину.
Лоджию центрального корпуса украсили скульптуры, изображающие Гомера, Платона, Евклида, Еврипида, Гиппократа, Демосфена, Вергилия, Корнелия Тацита, Марка Туллия Цицерона и Геродота (перечислены в порядке их расстановки от Невского проспекта). Над аттиком корпуса Росси установлена скульптура богини мудрости Минервы (воссоздана в 1966 году). Фигура Минервы установлена точно на оси, проходящей через центр Аничкова дворца. Над этими скульптурами работали В. И. Демут-Малиновский, С. С. Пименов, С. И. Гальберг, Н. А. Токарев и М. Г. Крылов.
В 1852-1862 годах архитектором В. И. Собольщиковым (работавшим библиотекарем-хранителем) был построен дворовой корпус. Он же, совместно с И. И. Горностаевым, оформил отделку зала инкунабул ("Кабинет Фауста").
Корпус обращенный на площадь Островского и переулок Крылова построил в 1896-1901 годах Е. С. Воротилов. Большой читальный зал здесь перекрыт железобетонным сводом, что было новым в строительном деле (проект инженера Б. К. Правдзика). Все корпуса Публичной библиотеки построены в едином стиле, выглядят единым целым, несмотря на то, что здания строились на протяжении более чем 100 лет.
В 1932 году библиотеке было присвоено имя М. Е. Салтыкова-Щедрина. В 1990-х годах библиотека стала называться "Российской Национальной", построено новое здание на Московском проспекте (дом №165).
В Публичной библиотеке хранятся египетские и индийские папирусы, Остромирово Евангелие (IX век) "Россика" (зарубежные издания о России до 1917 года), "Славика" (книги на славянских языках), личная библиотека Вольтера, собрание инкунабул (первые печатные издания Европы XV века). В настоящее время фонды Публичной библиотеки насчитывают 30 миллионов единиц хранения на 380 языках мира.
В залах библиотеки занимались В. Г. Белинский, Н. А. Некрасов, Н. Г. Чернышевский, Л. Н. Толстой, А. М. Горький, И. П. Павлов, И. М. Сеченов, Д. И. Менделеев, В. И. Ленин.
