Участок дома №10 по Среднему проспекту Васильевского острова (№25 по Кадетской линии) в начале XVIII века представлял собой два владения. Рядом с домом №23 в 1720-1730-х годах стоял особняк генерала Бутурлина. На угловом участке тогда располагался лишь фундамент.
В середине XVIII века угловой участок принадлежал Милославским. Во второй половине столетия территорию объединили, с 1790-х по 1820-е годы ей распоряжались капитан И. Ольхов и его наследники. На рубеже XVIII и XIX веков здесь находился трёхэтажный каменный дом, первый этаж которого сейчас является полуподвальным.
После семьи Ольхиных, с 1830-х по 1850-е годы, участком владел купец И. Ф. Остерлов. Для него в 1833 году архитектор Г. Р. Цолликофер надстроил на доме ещё один этаж. Спустя девять лет он же продлил здание вдоль Среднего проспекта в сторону Тучкова переулка.
Дом №10/25 стал первым петербургским адресом известного математика П. Л. Чебышева. В 1847 году он приехал в столицу из Москвы будучи ещё молодым адъюнктом. Экономя средства, Чебышев вместе с двумя знакомыми снял здесь квартиру. Тогда же математик защитил диссертацию "Об интегрировании с помощью логарифмов". В этот же период большую квартиру в доме Остерлова снимал отставной военный П. П. Чайковский с семьёй. В конце 1854 кода к нему переехал его брат генерал-майор И. П. Чайковский с сыновьями Модестом и Анатолием. Их по воскресеньям навещал ещё один из сыновей И. П. Чайковского - 14-летний Пётр, будущий известный композитор. Осенью 1855 года отец Петра Ильича Чайковского переехал в дом №39 по 8-й линии Васильевского острова.
Одну из квартир этого дома в 1860-1890-х годах занимал архитектор В. И. Шауб. В конце столетия он стал совладельцем участка. В 1890-х годах здесь же обитал учёный Н. А. Меншуткин, автор популярного в России, Европе и Америке учебника по аналитической химии. Тогда же он был редактором "Журнала Русского химического общества".
