Ещё в первые годы существования Санкт-Петербурга рядом с Петропавловской крепостью возникла татарская слобода. К началу ХХ века в городе проживало около 8 000 мусульман, но ни одной мечети не было. Официальный запрос на строительство мечети глава мусульман муфтий Тевкелев направлял министру внутренних дел графу Дмитрию Андреевичу Толстому ещё в 1880-х годах. Согласие было получено, но денег на строительство не было.
5 ноября 1905 года был организован Комитет по постройке Соборной Мечети в Санкт-Петербурге. Он был утверждён министром внутренних дел П. Г. Столыпиным в январе 1906 года. Комитет состоял из 20 мусульман, государственных и общественных деятелей, купцов. Его организатором стал писатель и публицист Ахун Баязитов, председательство получил полковник Абдул-Азиз Давлетшин.
Комитет получил право на сбор средств в размере 750 000 рублей в течении 10 лет на территории Российской Империи. Для этого выпускались лотерейные билеты и печатались открытки с проектными видами мечети. Самый большой взнос сделал эмир Бухарский Сеид-Абдула-Ахад-хан, заплативший 321 000 рублей за земельный участок. Он же пожертвовал 500 000 рублей на строительство, организовал сбор средств среди богатых купцов эмирата [1, с. 268].
Для строительства мечети Комитет приобрёл участок на углу Кронверкского проспекта и Конного переулка (дом №7), принадлежавший инженеру И. Долоцкому. Однако этого оказалось недостаточно. Михраб (священная ниша перед которой стоят верующие) должна быть обращена на юг, в сторону Мекки, в данном случае - прямо на фасад дома на соседнем участке. Этот дом 17 ноября 1907 года также был выкуплен. Здесь разместили помещения для омовения, которые необходимо совершить перед входом в мечеть. Так же в здании разместили мастерские архитекторов, строительную контору, приёмную Комитета. А оставшиеся помещения сдавали в наём, прибыль с которого шла на строительства храма.
Под патронажем эмира был проведён архитектурный конкурс. Рекомендации для этого конкурса были разработаны Ахуном Баязитовым. Требовалось соорудить мечеть в два яруса, с хором, со строгим внутренним убранством, с дополнительным подвальным помещением для размещения верующих во время ежегодных мусульманских праздников.
Итоги конкурса были подведены 11 марта 1908 года. Всего было рассмотрено 45 проектов, из которых первые места получили работы М. С. Лялевича, М. М. Перетятковича и Н. В. Васильева. Проект последнего был рекомендован комиссией судей для строительства. Васильев предлагал за образец взять мавзолей Гур-Эмир в Самарканде, что и было в конечном итоге выполнено. В процессе работы архитектор привлекал в соавторы своих коллег А. И. фон Гогена и С. С. Кричинского. В то время Гоген имел большой авторитет в правительственных кругах, что помогло уладить многие административные и хозяйственные проблемы. Кричинский же был членом мусульманской общины, что имело большой значение для строительного Комитета. Он же построил дом эмира Бухарского на Каменноостровском проспекте. От этого дома до мечети, по легенде, был проложен подземный ход. Впоследствии этот архитектор руководил работами по отделке здания храма.
Проект мечети и заявка на разрешение о начале работ были представлены А. И. фон Гогеном в городскую управу 14 декабря 1908 года. 3 апреля 1909 года Кричинскому было выдано свидетельство на проведение подготовительных работ, установку забора. Одновременно проект был отправлен на экспертизу в Академию Художеств. В целом он был одобрен, но получил возражение по поводу выбранного места для мечети. Несогласие было обосновано тем, что мусульманский храм оказывался рядом с православным Свято-Троицким собором, домиком Петра I, что нарушало историческую целостность центра Санкт-Петербурга. Однако Столыпин, в целом согласившись с доводами Академии Художеств, посчитал что разрешение на строительство обратно взять будет нецелесообразно.
Первые строительные работы начались в июле-ноябре 1909 года, был выполнен нулевой цикл работ. Торжественная закладка храма произошла в 11 часов 3 февраля 1910 года. Она была приурочена к 25-летнему юбилею правления бухарского эмира и к его визиту в Санкт-Петербург.
В августе 1911 года Н. В. Васильевым был составлен проект дома для омовений. В сентябре получено разрешение на строительство, разобран деревянный флигель, на его месте к осени 1913 года появилось новое сооружение.
Первое богослужение в мечети произошло в феврале 1913 года, приурочено оно было к 300-летию дома Романовых.
Петербургская Соборная мечеть стала самой северной мечетью в мире. Долгое время она оставалась самой большой. Её фасад хоть и соответствует всем канонам культового зодчества Средней Азии, но имеет черты северного модерна. Здание облицовано серым гранитом. Купол мечети повторяет силуэт купола мавзолея Гур-Эмира в Самарканде.
Уникальная майолика храма создана художником-керамистом Петром Кузьмичом Ваулиным, дедушкой знаменитого петербургского композитора Андрея Петрова. Кроме русских керамистов к работе привлекались узбекские мастера.
С началом Первой Мировой войны в 1914 году строительство мечети замедлилось, поступление денежных средств сократилось, многие строители были мобилизованы. Отделочные работы в храме продолжались вплоть до 1918 года, только с 1920-го стали проводиться постоянные богослужения. В конце 1930-х годов храм был закрыт, в нём устроили склад.
В 1956 году здание мечети было передано религиозному Обществу мусульман, началась его реставрация. В 1968 году храм принял статус архитектурного памятника. При реставрации мечети её купол впервые в мире облицевали не керамикой, а более долговечным фарфором.
