Комплекс зданий Новой Голландии расположен на искусственном острове, ограниченным Крюковым каналом, Адмиралтейским каналом и рекой Мойкой. Остров появился в 1717 году, когда были закончены работы по сооружению каналов.
На острове по указанию Петра I был построен деревянный дом, в котором царь отдыхал при посещении располагающегося рядом Галерного двора. Окружающая местность напоминала ему Голландию, поэтому царский дом стали называть "Голландским домиком", а остров - Новой Голландией. Вокруг здания посадили плодовые деревья, выкопали небольшой пруд.
19 февраля 1731 года главный архитектор Адмиралтейских строений И. К. Коробов получил приказ строить на Новой Голландии деревянные склады для хранения корабельного леса. Строительство началось летом 1732 года и завершилось к 1738 году, когда по периметру острова было построено семь корпусов. Хранившийся здесь лес использовали при строительстве кораблей в Адмиралтействе. К 1750-м годам эти склады пришли в ветхость и были снесены.
Проектирование новых складов было поручено ученику Коробова С. И. Чевакинскому. В 1765 году он представил проект, предусматривавший хранение брёвен по новой "голландской" технологии - стоймя с небольшим наклоном. Складской комплекс был рассчитан на хранение леса для 15 кораблей. Каменные корпуса было предложено вновь расположить по периметру острова. Вырытый ещё при Петре I пруд превращался в прямоугольный бассейн, который становился шире, соединялся с Мойкой и Крюковым каналами двумя протоками шириной 8,6 метров. Таким образом, Новая Голландия была разделена на два острова - Коломенский и Покровский.
Архитектурное оформление складского комплекса поручили архитектору Ж. Б. Валлен-Деламоту. Для того, чтобы избежать однообразия длинных зданий, зодчий предложил обработать их фасады крупным рустом и устроить в них высокие арочные окна.
Императрица утвердила проект Нового Голландии 13 апреля 1765 года, той же весной 400 каменщиков приступили к строительству. Работами руководил инженер И. К. Герард. Летом 1766 года он потерял проект, о чём свидетельствует объявление в газете "Санкт-петербургские ведомости" за 16 июня:
Сооружение знаменитой арки Новой Голландии началось в 1770 году, велось восемь лет. Вскоре оказалось, что она собрана с ошибками из-за чего через пять лет арку пришлось разобрать и построить к 1784 году заново. Высота арки Новой Голландии - 23 метра, ширина пролёта - немного более 8 метров. Каждый из складывающих арку гранитных блоков весит до 4 тонн.
В 1780 году Герарда сменил архитектор М. Ветошников. К осени 1784 года были возведены склады вдоль Мойки. В дальнейшем строительство шло с перерывами. В начале XIX века склады со стороны двора были надстроены вровень с внешним фасадом. Лишь в 1848-1849 годах было окончено строительство корпуса на углу Адмиралтейского и Крюкова каналов. Берег острова со стороны Адмиралтейского канала был обнесён стеной.
Высота каменных складов по мере приближения к арке Новой Голландии незаметно увеличивается. Всего на острове 26 складских корпусов, их длина составляет 260 метров.
С 1805 года адмиралтейским архитектором служил А. Д. Захаров. В 1805-1811 годах в Новой Голландии он переделывал двухэтажные каменные склады в трёхэтажные, а в 1808 году просил выделить средства на возведение "тёплых караулен для лесных содержателей и магазина для хранения инструментов". Тогда же зодчий предлагал облицевать берега окружающих остров каналов гранитным камнем и устроить булыжные мостовые. [2, с. 141]
В 1828 году на территории Новой Голландии по проекту архитектора военного ведомства А. Е. Штауберта была построена Морская тюрьма. Сам архитектор во время проектирования назвал строение "Башней". За время её существования обиходное название видоизменялось, в конце концов в народе её стали называть "Бутылка". Выражение "не лезь в бутылку" связано именно с этим зданием, то есть оно звучит как совет вести себя благоразумно чтобы туда не попасть.
Хранимый в Новой Голландии лес перевозился к верфи по Адмиралтейскому каналу, который в то время был прокопан до Адмиралтейства.
В советское время Новая Голландия была занята воинскими частями. В 1990-х предпринимались попытки продать остров иностранным инвесторам, но из-за долгих переговоров с военным министерством сделки срывались. В начале 2000-х годов директор Мариинского театра Валерий Гергиев просил передать остров в городскую собственность чтобы разместить там новую сцену театра, но и в этом было отказано. Под юрисдикцию Санкт-Петербурга Новая Голландия была отдана только в ноябре 2004 года.
В настоящее время ведётся реконструкция комплекса зданий Новой Голландии в общественный культурно-развлекательный центр.