Эта территория близ пересечения Мойки и Крюкова канала в середине XVIII века была занята караульной избой. В 1756 году здесь были построены винные амбары, с 1766 года ставшие "провиантскими магазинами" (магазином тогда называли склад). Они располагались цепочкой вдоль Крюкова канала. В этих складах хранилась мука Адмиралтейского ведомства и мастеровых казённых предприятий. Их называли также "запасными", так как в случае резкого роста цен местную муку продавали петербуржцам по более низким расценкам.
При формировании в 1840-х годах Благовещенской (ныне Труда) площади склады были уничтожены. На их месте в 1844-1852 годах по проекту архитектора И. Д. Черника и военного инженера М. А. Пасыпкина были построены Морские крюковские казармы. Сначала был выстроен корпус вдоль канала (дом №2), затем со стороны Большой Морской улицы (дом №69). Казармы строили почти одновременно с соседним Офицерским корпусом Конногвардейского полка, они очень похожи. До недавнего времени стены Офицерского корпуса были такими же красно-кирпичными, как и стены Крюковских казарм.
В этом здании в должности квартирмейстера служил герой обороны Севастополя Пётр Кошка. Позже здесь нес службу капельмейстером тесть Александра и Альберта Николаевичей Бенуа. В Морских крюковских казармах размещался 8-й флотский экипаж. В 1884 году в нём начинал свою военную карьеру Алексей Николаевич Крылов, будущий академик. В разное время здесь располагались также 7-й и 13-й флотские экипажи.
В 1917 году в Морских крюковских казармах находился 2-й Балтийский флотский экипаж, в котором служили братья Железняковы. Младший из них, Анатолий, участвовал в разгоне Учредительного собрания. В историю вошли его слова о том, что "караул устал". Во время Великой Отечественной войны в казармах готовили пополнение для Балтийского флота. Часть здания занимал Драматический театр дважды Краснознамённого Балтийского флота, который позже сменил Ленинградский матросский клуб.
В начале 2010-х годов здание Морских крюковских казарм начали приспосабливать для размещения в них Центрального Военно-Морского музея. Открытие переехавшего из здания Биржи музея состоялось в 2013 году.