Первое здание на этом участке Невского проспекта было построено в 1740-х годах. Оно имело девять осей, въездные ворота слева. Первым хозяином дома №21 стал купец Серебряков.
Дом перестраивался в начале XIX века. В 1847 году перестройки производились по заказу герцога Максимилиана Лейхтенбергского (проект архитектора А. Робена). Тогда здание было надстроено четвёртым этажом, фасад приобрёл неоренессансные черты. Первый этаж раскрылся широкими витринами.
В 1860-х годах дом №21 по Невскому проспекту принадлежал купцу Ф. П. Красильникову. В 1870-х годов он перешёл во владение купцу Ф. Ф. Мертенсу, хозяину крупной меховой фабрики, существовавшей в Петербурге с 1841 года.
К началу XX века участком владели наследники Ф. Ф. Мертенса. Кроме их магазина в доме работали аптека Келера, магазин кондитерского товарищества "Жорж Борман". Витрина последнего была оформлена в стиле модерн в 1902 году по проекту архитектора И. А. Претро.
Существующее сейчас здесь здание построено в 1911-1912 годах по проекту архитектора М. С. Лялевича и скульптора В. В. Кузнецова. Заказ на его строительство сделал Ф. Л. Мертенс. Дом Мертенса - одно из первых зданий Петербурга, построенных на основе монолитного железобетонного каркаса. Это позволило раскрыть главный фасад огромными арками-витринами высотой в три этажа. Такая трёхарочная композиция - "фирменный приём" архитектора Лялевича. Торговый дом Мертенса вместил в себя не только меховые магазины, но и помещения для производства меховых изделий. Во дворе был установлен фонтан с фигурой медведя из известняка.
После 1917 года в доме Мертенса работали Ленинградское городское управление лёгкой промышленности, "Ленлегпромснаб", "Леншвейсбыт", "Главуглесбыт". В 1944 году здесь открылся первый в Советском Союзе Дом моделей одежды.
В середине 2000-х годов проходила очередная капитальная реконструкция здания.
