Быстрое увеличение числа жителей на Васильевском острове в начале XVIII века потребовало упорядочения торговли. К 1721 году вдоль "Большой першпективы" от 6-й линии уже существовали два ряда деревянных лавок. Южнее их земля была болотистой и неровной, там планировали организовать продажу сена и дров. Между 2й и 3й линиями тогда существовал Меншиковский рынок, называвшийся так по находящемуся рядом дворцу князя Меншикова. Однако в 1733 году Меншиковский рынок был переведён на небольшую поляну около 20-й линии, позже по просьбе купцов перемещён ближе, к церкви Андрея Первозванного. С тех пор рынок стал называться Андреевским. С окончанием перестройки Андреевского собора в церковь рынок стал всё более популярен, сюда приезжали не только местные, но и иногородние купцы, рынок стал расширяться до 5-й линии.
В 1730-1740-х годах рынок был окончательно узаконен, принято решение о его переустройстве по специальному проекту. В 1763 году произошёл сильный пожар, деревянные постройки сгорели, купцам был нанесён большой ущерб. В 1764 году купцы обратились в Сенат с просьбой о строительстве нового рынка, и о предоставлении им для этого 100 000 рублей в кредит на 10 лет. Сенат просьбу удовлетворил, предоставил свои рекомендации императрице Екатерине II, которая приказала комиссии о Санкт-Петербургском строении заняться этим вопросом. Был организован конкурс, в условиях которого числилось: обустройство каменных торговых рядов, площадь внутри для продажи сена и дров, устройство в центре площади пруда.
Построен рынок был к середине 1780-х годов, автор проекта сегодня неизвестен. Предполагается что им мог быть губернский архитектор Г. Х. Паульсен, строивший подобные рынки в других частях Санкт-Петербурга.
В 1795 году случился новый пожар, который уничтожил все оставшиеся к тому времени деревянные постройки. К концу 1790-х годов лавки были приведены в порядок, теперь все они стали в каменном исполнении.
В 1820-х годах со стороны Волжского переулка была устроена колоннада из шести колонн дорического ордера. В 1880-х годах со стороны Большого проспекта по проекту П. Ю. Сюзора и О. Е. Креля к рынку был пристроен металлический остеклённый корпус. Здесь торговали мясом, молоком, зеленью, овощами и фруктами, которые привозили крестьяне из пригородов. Отдельные помещения каменного рынка стали сдаваться под склады и конторы.
В 1959 году совершена перестройка здания по проекту М. Я. Климентова. На месте домов №14 и 16 по Большому проспекту был построен новый корпус рынка, отдельный корпус со стороны проспекта был разобран.
В 2003 году рынок снова перестраивается. Отреставрированы фасады, раскрыты ранее заложенные участки галереи, витрины приведены к единообразию по сохранившимся историческим образцам. Восстановлены первоначальные арочные проемы лицевого фасада по второму этажу, исторический вид и цвет кровли со слуховыми окнами. Кроме того, проведены инженерные работы, необходимые для дальнейшей нормальной эксплуатации здания. Внутри снесены перегородки для оборудования больших современных торговых залов. Этот проект реставрации Андреевского рынка был разработан мастерской И. Л. Воиновой по заказу торгового центра "Андреевский".
