Иоанновский женский монастырь расположен между берегом реки Карповки и улицей Профессора Попова. В первой половине XIX века территория на правом берегу Карповки принадлежала действительному статскому советнику И. Ростовцеву. Участок Ростовцева с севера ограничивала Песочная улица (ныне улица Профессора Попова). Затем участком владела жена подполковника С. Г. Энгельгардта, а в 1878-1880 годах - семья купцов Раменских.
Основателем Иоанновского женского монастыря является святой Иоанн Кронштадтский. В 1899 году на своей родине, в селе Сура, он основал Иоанно-Богословскую женскую общину. Она была очень бедна, поэтому Иоанн решил построить в Санкт-Петербурге монастырское подворье. Большую помощь в организации строительства обители оказала послушница Анна Семёновна Сергеевна, ставшая первой игуменьей монастыря.
Участок для монастыря был пожертвован отцу Иоанну почётным гражданином Санкт-Петербурга купцом Симеоном Раменским. Для этих целей он выделил часть своего имения на берегу Карповки. Проект монастыря, созданный в 1900 году архитектором Николаем Никоновым в византийском стиле, утвердил лично император Николай II. Закладка монастыря состоялась в мае 1900 года. Первым делом была построена деревянная часовня, а с сентября началось строительство каменных сооружений.
Уже в 1901 году здесь был освящён первый храм - во имя преподобного Иоанна Рыльского. Спустя ещё два года был освящён главный храм монастыря - собор Двенадцати Апостолов, с приделами во имя Казанской иконы Божией Матери и во имя святителя Андрея Критского и преподобной Марии Египетской. Первые два этажа пятиглавого собора заняли жилые покои, третий этаж - церковь. Образа для трёх дубовых иконостасов были написаны иконописцем Ф. К. Платоновым и художником М. В. Нестеровым.
На первом этаже северной части монастырского здания разместились кельи сестёр, библиотека, просфирная. На втором этаже - трапезная. Приют и гостевые комнаты были устроены в построенном в 1903 году пятиэтажном корпусе. С западной стороны была построена пятиярусная колокольня.
В январе 1903 года Синодом подворье было преобразовано в Иоанновский женский монастырь, названный во имя преподобного Иоанна Рыльского, святого покровителя Иоанна Кронштадтского.
В 1904 году участок Иоанновского монастыря был расширен за счёт участка, пожертвованного почётным гражданином И. И. Кокиным. В 1907-1908 годах был построен четырёхэтажный корпус, где разместились кельи, иконописная и рукодельные мастерские. В 1908 году в нижней части здания был устроен храм-усыпальница для Иоанна Кронштадтского.
В 1910-1911 годах на углу набережной Карповки и Иоанновского переулка по проекту Никонова была построена часовня во имя Серафима Саровского. В советская время она была уничтожена. В 1915 году в монастырском саду была построена ещё одна часовня, предназначенная для захоронений. В дальнейшем они происходили рядом с ней.
Иоанновский женский монастырь был закрыт в 1923 году. Монашек выслали в Казахстан, а в помещениях обители устроили швейные мастерские, квартиры, общежитие и учебное заведение. Вся внутренняя планировка для этих целей была изменена. Вход в усыпальницу Иоанна Кронштадтского был замурован, а гробница забетонирована. Но это не мешало верующим всё равно приходить к святыне - они молились и ставили свечи у наружной стены усыпальницы.
Возвращение верующим монастыря состоялось в 1989 году, тогда же началась его реставрация. В 1991 году он был повторно освящён патриархом Алексием II. К столетнему юбилею монастыря в 1999 году по проекту архитектора А. П. Викторова (бывший главный архитектор Санкт-Петербурга) была восстановлена часовня в честь Покрова Божией Матери.
