Участок дома №60 на улице Чайковского с 1730х годов являлся единым участком с соседним (№ 58). В 1734 году эта земля была пожалована Ивану Васильевичу Демидову, однофамильцу знаменитых русских промышленников. За время жизни здесь Иван Васильевич дослужился до генеральского звания, стал владельцем нескольких доходных домов в Петербурге. В 1795 году он подарил землю своей дочери Анне, которая и разделила участок на две части.
Участком дома №60 в 1830х-1870х годах владел поручик, а затем генерал-майор Михаил Иванович Чевакинский. В это время все строения здесь были деревянными, ровно как и двухэтажный жилой дом с мезонином в пять окон. В 1854 году здесь проживал Никита Всеволодович Всеволожский - литератор, переводчик, знакомый Грибоедова и Пушкина.
По купчей от 12 июля 1872 года участок перешёл архитектору Ивану Осиповичу Рубану. Здесь к июню 1879 года по его проекту был построен новый четырёхэтажный на подвалах дом, пятиэтажные флигели. Иван Осипович жил здесь в квартире №6 из 12 комнат на третьем этаже. В 1883 году в квартире №14 проживал писатель Николай Семёнович Лесков, автор знаменитых повестей "Очарованный странник", "Левша". В 1885-1887 годах Лесков жил в квартире №4. В 1883 году в квартире №11 проживала вдова вице-адмирала Вера Васильевна Бутакова. Её муж стал известен своим участием в кругосветных путешествиях, его именем названы мыс и остров в Японском море. В 1885 году в квартире №45 жил историк Дмитрий Иванович Яворницкий, ставший одним из типажей для картины Ильи Репина "Запорожцы пишут письмо турецкому султану".
В 1888 году имущество Рубана было выставлено на публичную продажу. В аукционе участвовала княгиня Н. Ф. Мурузи, но дом достался вдове Рубана Елене Ивановне. Несмотря на отсутствие средств у умершего мужа, она смогла выкупить это здание, возможно благодаря деньгам мужа будущего - доктора медицины Серапиона Моисеевича Арутинянца. В 1908 году в доме №60 проживали родители и братья Осипа Мандельштама. Сам будущий поэт в это время учился за границей.
В марте 1918 года дом был национализирован. После этого Елена Ивановна проживала в квартире №11 на иждивении у свего зятя князя Петра Павловича Ухтомского.