Гаванская улица возникла на западной стороне Васильевского острова как главная улица Гавани - селения возникшего здесь в начале XVIII века. В строившихся здесь тогда одноэтажных деревянных домах селились рабочие галерной верфи, моряки, рыбаки, служащие Гребного порта.
С первой половины XVIII века по 1808 год на месте дома №18 располагалось полицейское управление.
В начале XIX века улица именовалась 4-й - 5-й линиями Гавани, в 1820-х годах - Офицерской. В это время Гребной порт утратил своё значение, постепенно менялся состав населения окружающего района. Моряков и рыбаков сменяли торговцы, рабочие, мелкие чиновники. Район считался одним из самых бедных в Санкт-Петербурге. Само слово "Гавань" стало у петербуржцев синонимом нищеты. Именно здесь Пушкин поселил героиню своей поэмы "Медный всадник" Парашу, как район бедноты Гавань встречается и в других произведениях русских писателей.
После наводнения 1824 года район Гавани было решено полностью снести. Для каждого дома был выбран свой срок сноса, который отмечался краской на его фасаде. Однако средств для проведения этих работ не было найдено, сроки неоднократно переносились. При этом здесь запрещался ремонт зданий. В рассказе И. И. Панаева "Галерная Гавань" это описано следующим образом:
В 1860-х годах на участке дома №8 работала фабрика шёлковых изделий Л. Кызина. В 1863 году было принято решение о подсыпке здесь улиц, в том числе и Офицерской. Эти работы проводились по инициативе военного генерал-губернатора А. А. Суворова, квартал в обиходе стали называть "Квартал Суворова". В это время был разрешён ремонт зданий. С 1871 года улица получила современное название - Гаванская.
В 1901 году на участке дома №5 были построены Гаванские бани.
В начале ХХ века на Гаванской улице, равно как и во всей Гавани, началось строительство новых каменных зданий. В это время были построены дома №12 и 14. В 1903-1904 годах построен дом №15. По проекту Н. В. Дмитриева и В. А. Фёдорова за Малым проспектом в 1904-1906 годах был построен "Гаванский рабочий городок" (дома №47). Этот городок был создан по инициативе Товарищества борьбы с жилищной нуждой. В торцевых помещениях первых этажей работали магазины, детский сад, библиотека, столовая. Жилой комплекс стал одним из первых подобных в Санкт-Петербурге. Несмотря на название "рабочий городок", здесь всё же селились в основном зажиточные жители Гавани.
В 1906 году построен дом №26. В 1906-1907 годах в связи с прокладкой трамвайных путей трасса улицы была вновь подсыпана. В итоге уровень мостовой поднялся почти на 2 метра. За счёт домовладельцев поднимался грунт и на прилегающих участках. В 1908 году на участке дома №2/97 работал кинотеатр "Маяк". В 1910 году построен дом №20, в его первом этаже в начале ХХ века работал кинотеатр "Огонёк". В это же время архитектором Н. С. Бродовичем был построен дом №22/4. В 1911-1912 годах построены дома №30, 32, 35. В 1913 году по проекту А. А. Захарова построен дом №4. В 1917 году ряд помещений здесь занимал рабочий клуб "Красная звезда".
В 1930-1960-х годах на участке дома №15 работал хлебозавод, на участке домов №29-31 - кинотеатр "Маяк".
Во время блокады Ленинграда в районе исчезли практически все деревянные строения - они были разобраны на дрова. Во время блокады продолжали работать Гаванские бани. Все общественные помещения "Гаванского рабочего городка" были отданы для нужд госпиталя. От бомбёжек пострадало много каменных зданий, некоторые были разрушены до основания. После войны вновь застроенные участки были перенумерованы.
В 1940-1950-х годах на месте разрушенных домов строились новые дома: №6, 7, 9, 11, 16/102, 17, 18/99, 25/27, 37, 43. В 1950-х годах на месте пересечения Гаванской улицы и Среднего проспекта был создан сквер. В 1960-х годах построены дома №19-23, на участке дома №53 - школа. При ней был организован открытый плавательный бассейн, в 1980-х годах ставший крытым. В 1960-х годах застраивались кварталы за Малым проспектом.
В 1971-1973 годах по проекту Н. Н. Баранова реконструировался дом №13/15, построен дом №8. В 1970-х годах построены дома №31, 33.
В конце 1990-х годов построено новое офисное здание между домами №12 и 14.