После пожаров 1730-х годов участок дома №25 по Большой Морской улице принадлежал обжигальшику кирпичей Гавриле Дмитриевичу Полунину. Он не смог построить здесь дом, участок оставался пустым. В книге "Большая Морская улица" Л. И. Бройтман и Е. И. Краснова пишут, что в 1742 году территория была передана немецкому комедианту Ягану Христофору Зигмунду для строительства здесь театра [1]. В другом своём труде, "Гороховая улица", Л. И. Бройтман сама себе противоречит, утверждая, что ещё в 1744 году Яган Христофор просил отдать ему этот участок для постройки театрального здания [2, с. 45]. Вторая книга была выпущена на пять лет позже. Должно быть, в ней использовались уточнённые сведения.
Как бы то ни было, театр был построен к 1745 году. Он был внушительных размеров: имел один этаж на высоких подвалах, тринадцать окон по фасаду. Сам театральный зал располагался в деревянном дворовом флигеле. Кроме немецких комедиантов здесь выступала труппа Фёдора Волкова. 6 февраля 1752 года представленную ими трагедию здесь смотрела императрица Елизавета Петровна [2, с. 46].
Лицевые корпуса сдавались внаём.
Уже в апреле 1746 года Зигмунд хотел продать участок за 4 500 рублей. По всей видимости, строительство было дорогим, сборы с посетителей театра его не окупили. Театр уехал в Ригу, но в июле газета сообщала, что "немецкие комедианты начнут опять на прежнем месте в построенном на дворе деревянном театре комедии играть" [Цит. по: 2, с. 46]. В книге "Гороховая улица" Л. И. Бройтман пишет, что в 1747 году вдова Зигмунда Мария Елизавета Циглер заложила дом придворному хирургу Христиану Паульсену за 3 000 рублей до 1751 года. А спустя один год перезаложила дом тому же Паульсену за 5 000 рублей. По истечению срока закладной (в 1751 году) выкупить дом Мария Циглер не смогла. В книге "Большая Морская улица" Л. И. Бройтман пишет, что вдова заложила участок Паульсену в 1751 году и впоследствии не смогла его выкупить.
Врач Паульсен известен тем, что лечил Петра I во время его последней болезни. Он продолжал службу и при следующих правителях, вплоть до Екатерины II. Он является отцом архитектора Готлиба Христофоровича Паульсена.
После смерти Зигмунда немецкий театр возглавили владелец соседнего участка (дом №9 по Гороховой улице) "Панталон Гилфердинг" и "Арлекин" Сколари. Кроме спектаклей здесь давались и цирковые представления. Объявления рассказывали о лошади, которая "знает монеты, разумеет азбуку, арифметику, играет в карты, показывает время, смотря на карманные часы". Программа включала танцы на канате "девицы и арлекина" и даже конские скачки. После распада труппы немецкого театра здесь выступали заезжие гастролёры. 13 декабря 1756 года "Санкт-Петербургские ведомости" приглашали сюда на представление английского акробата Михаэля Штуарта.
В 1750-х годах участок принадлежал супруге подполковника Марфе Кирилловне Елагиной, а соседний (дом №9) её мужу. То есть два участка фактически были объединены. Продать их Елагина пыталась ещё в 1755 году, покупатели нашлись в 1756-м. Ими стали князья Мещерские: дом №11 был закреплён за Анной Ивановной Мещерской, дом №9 за её супругом Григорием Семёновичем.
Объявление 1763 года гласит о сдаче внаём помещений в "новостроющемся доме" княгини Мещерской. Вероятно, именно тогда вместо деревянного театра здесь строился каменный жилой флигель [2, с. 47]. В 1771 году здесь сдавались 20 покоев со службами.
От унаследовавшей владение Анны Григорьевны Мещерской (в замужестве Щербатовой) дом №11 перешёл купцам Василию Портеру и Луи Фоконье. У последнего в 1781 году территорию приобрела фрейлина Наталья Львовна Нарышкина, вышедшая замуж за полковника И. А. Соллогуба. В начале XIX века её брат Александр Львович Нарышкин владел домом №31 по Большой Морской улице. Писатель В. А. Соллогуб приходился ей внуком. По его воспоминаниям:
В 1780-х годах особняк расширили за счёт въездных ворот, дом занял весь участок.
В 1820-1830-х годах дом принадлежал купцам Кусовниковым. При них продолжала работать лавка Смурова, кроме которой здесь находился музыкальный магазин Рихтера. При музыкальном магазине была открыта библиотека, абонемент в которую стоил 50 рублей в год. В сентябре 1836 года в доме №25 у матери поэта Веневитинова гостила З. А Волконская. Она устроила здесь несколько музыкальных вечеров, на которых Волконская пела под игру на рояле М. И. Глинки.
За долги Михаила Михайловича Кусовникова (сына основателя купеческой династии) в 1837 году губернское правление назначило дом №25 в продажу. Его купил статский советник Густав Васильевич Лерхе. Братом нового владельца был основатель первой в России глазной лечебницы В. В. Лерхе, бывавший в этом доме. В 1838 году Лерхе заложил участок за 200 000 рублей с целью перестройки доходного дома. Строительные работы были поручены архитектору Полю (Павлу Петровичу) Жако. Зодчий, изучив здание, пришёл к выводу о возможности перестройки здания путём возведения дополнительных этажей. В результате дом стал четырёхэтажным.
С фасада здания тогда исчез четырёхколонный портик и треугольный фронтон. Одним из требований заказчика стало устройство только-только вошедших в моду эркеров. Жако удовлетворил этот запрос, но органично ввести эркеры в достаточно классицистическую композицию ему не удалось. Во дворе были построены пяти- и шестиэтажные флигели, что увеличило прибыль от этого доходного дома. Л. И. Бройтман называет руководителем перестройки здания академика архитектуры Карла Ивановича Реймерса [2, с. 49].
В 1839 году сюда (после пятилетней ссылки) со своими женой и маленьким сыном Сашей переехал Александр Иванович Герцен. Он писал: "Дом, в котором мы живём, - от души петербургский дом: во-первых, шестиэтажный, во-вторых, в нём нет секунды, когда не пилили бы, не звонили бы в колокольчик, не играли бы на гитаре и пр. Жильцов малым чем меньше, нежели чем в Ноевом ковчеге" [Цит. по: 1, с. 253]. "... Тут есть лавки, магазейны, директоры министерств... офицеры, винные погребы, шесть этажей и несколько сот окон; тут по подряду на весь дом ставят воду, топят печи, вставляют рамы, натирают полы, всё это совершенно противуположно московскому широкому комфорту..." [Цит. по: 2, с. 49]
Лицевой флигель имел четыре этажа, значит Герцен жил в дворовом флигеле. Свой адрес он обозначал так: "В доме Лерха, на углу Большой Морской и Гороховой в бельэтаже №21". Именно в связи с этим адресом Большая Морская улица некоторое время называлась улицей Герцена. Вместе с семьёй писателя жил его двоюродный брат Сергей Львович Левицкий - один из первых русских фотографов. Герцен был выслан из Петербурга в 1840 году, так как в письме отцу повторил слух о том, что будочник у Синего моста убил и ограбил человека.
С конца 1840-х и до 1917 года дом №25/11 принадлежал семье Елисеевых. Его приобрели сыновья основателя знаменитой торговой фирмы Сергей, Степан и Григорий Петровичи. Уже после смерти Сергея Петровича братья купили дом №14. В 1860-х годах в доме №25 жил внук полководца А. В. Суворова Константин Аркадьевич Суворов, князь Италийский, граф Рымникский.
В доме Елисеевых работала мастерская парикмахера "Ея Императорского Высочества Великой княгини Ольги Фёдоровны" (супруги великого князя Михаила Николаевича). В 1890-1896 годах здесь жил академик архитектуры Фердинанд Логинович Миллер (Мюллер). До постройки собственных зданий в этом доме размещалось страховое общество от огня "Саламандра". В 1896 году одним из обитателей доходного дома был торговец Василий Иванович Хромых, содержавший здесь же трактир с винным погребом.
Первые 20 лет своей жизни в доме Елисеевых провёл советский поэт Николай Семёнович Тихонов. В свой автобиографии он описывает здание как очень тесное и старое. Квартира его семьи имела две комнаты и кухню. По словам Тихонова, все двери в доме покосились из-за того, что здание за полтораста лет своего существования сильно осело [1, с. 255]. В 1930-х годах в доме №25/11 работал продуктовый магазин "Пролетарий".
В память о том, что здесь жил Герцен, в 1955 году на фасаде здания была помещена соответствующая мемориальная доска.