Трасса Железноводской улицы на Васильевском острове от Уральской улицы до проспекта КИМа существует с XIX века. В 1899 году построен дом №17/5. В начале ХХ века построены здание для ткацко-красильной фабрики "Северная мануфактура" (дом №3), жилые дома №10, 20, 22. В 1900-х годах построены дома №7, 9, 13. В 1905-1906 годах по проекту А. И. Гаврилова возведён дом №30. В 1906-1907 году в доме №17/5 снимал комнату будущий видный советский партийный деятель М. И. Калинин.
В 1912 году в связи с реализацией проекта "Новый Петербург" по планам архитекторов И. А. Фомина и Ф. И. Лидваля улица была продлена через частный владения западнее площади Балтийских Юнг. По этим же планам в 1912 году построены дома №19/14 и 34/12. Во время первой мировой войны дом №19 занимал госпиталь. В 1914 году построен дом №24, в 1915 году - дом №14. В 1920-х годах от Уральской улицы до проспекта КИМа была проложена одноколейная трамвайная линия. В 1926 году в реконструированный дом №30 заселили рабочих близлежащих заводов. На участках будущей улицы близ реки Смоленки была основана свиноферма.
Строительство по проектной трассе западнее площади Балтийских Юнг продолжили в 1950-1970х годах. Направление её конечного участка изменили, он стал перпендикулярным Наличной улице. В 1950-х годах построено здание детского сада (дом №15/А). В 1960-х годах построен дом №15, до 1970-х годов строились типовые дома №40-58. В 1977 году трамвайную линию на Железноводской улице дополнили вторыми путями. В 1970-х годах фасад старого дома №3 включили в новый фабричный корпус. Свиноферма в конечной части улицы сохранялась до постройки на её месте новых зданий: "62 и 66, общежития сталепрокатного завода (дом №68) и в 1978 году - типовой поликлиники (дом №64).
