Согласно книге Т. А. Соколовой "Дворцовая набережная" в 1710-х годах на этом участке Дворцовой набережной стояли дома управляющего Монастырским приказом графа И. А. Мусина-Пушкина и генерал-фельдмаршала князя В. В. Долгорукова [1]. В. С. Измозик в книге "Пешком по Миллионной" указывает, что в петровское время здесь обитал майор Василий Дмитриевич Корчмин. Первый автор "отправил" его на соседний участок дома №12-16. Второй автор запутывает историю ещё больше, причисляя В. В. Долгорукова к владельцам той же соседней территории.
В середине XVIII века участком владели генерал-поручик М. Я. Волков, генерал-аншеф А. И. Ушаков [1]. Согласно второму источнику А. И. Ушаков жил на соседней территории (дом №12-16). При владении участком князем А. М. Черкасским его особняк в 1736-1746 годах возводил архитектор П. М. Еропкин [2, с. 137]. Дочь Черкасского Варвара в 1743 году вышла замуж за графа Петра Борисовича Шереметева, после чего участок перешёл их семье.
Автор книги "Санкт-Петербург XVIII века" К. В. Малиновский сообщает, что в 1745-1750 годах для П. Б. Шереметева здесь было построено два трёхэтажных дворца на погребах (один со стороны Дворцовой набережной, другой - по Миллионной улице), соединённых двумя надворными флигелями. Он приводит ссылку на документ, согласно которому эти здания строил архитектор С. И. Чевакинский, причём использовал он для этого оставшийся после смерти князя Черкасского проект Еропкина. Начинал эту работу скончавшийся в 1746 году Г. Д. Дмитриев [3, с. 318].
К началу XIX века здесь располагался каменный дом "на 84 покоя". Особняк П. Б. Шереметева часто называли "Миллионным домом". Возможно это название дало повод дать такое же имя и Миллионной улице, на которую выходит противоположная берегу Невы сторона участка.
Здесь проводились любительские спектакли. 21 февраля 1766 года в одной из представленных в доме Шереметева пьес роль главного героя сыграл великий князь Павел Петрович (будущий Павел I). Четыре исполнителя того представления были украшены драгоценностями стоимостью более чем в два миллиона рублей.
После смерти в 1767 году жены, а на следующий год дочери, граф П. Б. Шереметев переселился в Москву.
В 1800 году дом Шереметевых и соседние здания банкира Ливио и Городского ведомства были приобретены Департаментом уделов. Перестройка зданий была осуществлена по проекту А. Н. Воронихина. Здесь появились апартаменты для приёма приезжающих в Санкт-Петербург особо важных персон. Внутреннее убранство здания Департамента уделов отличались богатством. Только на меблировку помещений было потрачено 114 000 рублей. Дворовые флигели были заняты типографией, архивом и землемерным училищем.
Здесь, в Департаменте уделов, с апреля 1830 года около года работал Николай Васильевич Гоголь. Его рабочий день начинался в 9 часов утра и заканчивался в 3 часа дня. Сначала он был писцом, а затем помощником столоначальника. Работа чиновником будущего писателя не привлекла.
После свадьбы 18 августа 1857 года великого князя Михаила Николаевича и принцессы Цецилии-Августы Баденской (Ольги Фёдоровны) стало необходимым создать официальную резиденцию для новой великокняжеской семьи. Первоначально Михаил Николаевич должен был жить в одном дворце со стоим старшим братом Николаем. Для их общего дворцового комплекса был выбран участок у нового Благовещенского моста. Архитектором А. И. Штакеншнейдером уже был составлен проект, но великий князь не побоялся попросить у отца-императора жить отдельно от брата. В результате на Благовещенской площади был построен Николаевский дворец, а дом для младшего брата здесь - на берегу Невы, напротив Петропавловской крепости. 20 июля 1857 года состоялась торжественная закладка Ново-Михайловского дворца.
Для постройки Ново-Михайловского дворца кроме здания Департамента уделов были приобретены соседний дом княгини Н. С. Голицыной и дом О. А. Зубовой, располагавшийся между Миллионной улицей и рекой Мойкой. Впоследствии дом княгини был полностью разобран, а стены здания Департамента уделов были использованы для строительства дворца. Общая стоимость всех работ составила 993 525 рублей.
Ново-Михайловский дворец стал одним из первых зданий в Петербурге, при строительстве которого использовались металлические балки и стропила. Здесь был оборудован местный водопровод (городской был сооружён только в 1863 году).
Главный Фасад здания Штакеншнейдер оформил в модном тогда стиле эклектика, выбрав за основу барочные формы. Полностью следовать правилам "псевдобарокко" зодчему здесь не удалось, так как было необходимо использовать стены старого здания. А это не позволило активно использовать характерную для барокко игру объёмов, выступы ризалитов. Фасад Ново-Михайловского украшен балюстрадой с декоративными вазами. Его скульптурное оформление создал Д. И. Иенсен.
Ново-Михайловский дворец был торжественно освящён 9 декабря 1861 года. Приставка "ново" стала говорить об его отличии от "старого" Михайловского дворца.
Парадный вход Ново-Михайловского дворца через Главный вестибюль и Парадную лестницу вёл на второй этаж к анфиладе парадных помещений. Здесь располагались двусветные Банкетный, Танцевальный, Зелёный залы, а также Гостиные, Приёмная и Дубовая столовая. На первом этаже находились жилые помещения и личные комнаты великокняжеской семьи. Среди них: Кабинет, Будуар, Ванная комната, Баня. На третьем этаже была создана домовая церковь во имя архангела Михаила. Под ней на уровне первого и второго этажей был Зимний сад. Живописные украшения парадных залов создали модные в середине XIX века художники М. А. Зичи и Н. И. Тихобразов.
Дом Зубовой был приспособлен для проживания служащих великокняжеской резиденции. На Миллионную улицу вышел фасад Шталмейстерского корпуса. Через его арку можно было попасть в построенный в 1877 году Манеж, располагавшийся в центре участка. В 1889 году Ново-Михайловский дворец был оснащён электричеством.
В декабре 1862 года великий князь Михаил Николаевич был назначен наместником на Кавказ, куда он и уехал на почти двадцать лет. Александром III он был поставлен на должность председателя Государственного совета. В 1905 году Михаил Николаевич уже не мог занимать этот пост. К этому времени великий князь вновь поселился в Ново-Михайловском дворце.
В последние годы жизни великий князь любил сидеть у окна первого этажа и был очень доволен когда прохожие его замечали и отдавали честь.
После смерти Михаила Николаевича в Ново-Михайловском дворце был создан музей, где проходили выставки предметов, связанных с жизнью великого князя. Историк Т. А. Соколова в книге "Дворцовая набережная" указывает год начала работы музея как 1909-й, а В. С. Измозик в книге "Пешком по Миллионной" пишет, что музей начал работать в 1911 году. Экспозиции заняли четыре зала. В бывшей Приёмной устроили "Общий зал", где выставили портреты и портретные группы сподвижников великого князя. Здесь же находились коллекция оружия, макетов и фотографий крепостей, рукописи и служебные документы великого князя. В "Зале личной жизни" можно было увидеть святые иконы, ордена и регалии, среди которых был и фельдмаршальский жезл. На стенах висели портреты, а в витринах - личные документы, детские учебные тетради. Кабинет был оставлен в первозданном виде. В "Зале последних дней жизни" были представлены вещи, связанные с болезнью и смертью Михаила Николаевича. Музей принимал посетителей по вторникам и четвергам.
Следующим и последним владельцем Ново-Михайловского дворца стал старший сын Михаила Николаевича - великий князь Николай Михайлович.
После 1917 года некоторые помещения Ново-Михайловского дворца занимало Петроградское отделение Коммунистической академии. В 1930 году здесь разместился Институт востоковедения. В 1951 году его почти полностью перевели в Москву. С 1956 года в Ново-Михайловском дворце работает его отделение, с 1991 - филиал института. В настоящее время здесь располагаются Институт истории материальной культуры, Институт востоковедения и Институт проблем электрофизики.
