Дом №10 по Адмиралтейскому проспекту построен в конце XVIII века. Первоначально он иммел два этажа. Его владельцем был купец Щербаков. С 1790 по 1820-е годы в этом доме работал Большой мещанский клуб (Шустерклуб).
Позже дом №10 купил шталмейстер двора граф Александр Александрович Стенбок-Фермор. Он интересовался искусством, собрал в своём доме коллекцию картин русских и зарубежных художников. В 1840-х годах здание было надстроено и расширено архитектором А. П. Гемилианом.
После смерти графа здание перешло по наследству его дочери графине Александре Стенбок-Фермор. С 1866 по 1870 годы часть дома сдавалась ей внаём под квартиру и мастерскую художнику Ивану Николаевичу Крамскому и возглавляемой им Санкт-Петербургской артели художников. В 1869 году Александра Александровна вышла замуж за князя Владимира Анатольевича Барятинского. После свадьбы князь переехал в дом на Адмиралтейском проспекте. Здесь он создал фамильный музей, включающий портреты предков, картинную галерею, часть архива князей Барятинских.
Сейчас дом №10 является обыкновенным жилым домом. С 1994 года помещения его первого этажа занимает индийский ресторан "Тандур".