До появления на карте города Новочеркасского проспекта сообщение районов Большой и Малой Охты осуществлялось через трассу Малоохтинского проспекта. Восточнее его располагались земли морского ведомства, частные владения, огороды жителей Малой Охты.
15 мая 1721 года близ места, где когда то располагалась шведская крепость Ниеншанц, по указу Петра I была основана Инструментальная мастерская при Петербургском Адмиралтействе. С этого времени ведёт свою историю Завод Штурманских Приборов, которому принадлежат дома №1 и 3.
Первое упоминание о дороге через эти земли относится к 1828 году. Появилось оно в "плане урегулирования Охтинских слобод". Однако долгое время осуществить этот план не удавалось. В 1860-х годах после серии крупных пожаров снова поднимается вопрос о устройстве новой дороги. Городские власти выпускают серию рекомендаций по переустройству территории, в итоге эти рекомендации остались невостребованными.
В 1878 году на Малой Охте на постоянной основе был расквартирован 145-й Новочеркасский пехотный полк. В 1884 году началось строительство каменных казарм для солдат. Некоторые из этих строений сохранились до настоящего времени (дома №4 и 4/2).
В 1887 году на карте города появляется Новочеркасская улица. Она проходила от полковых казарм на юг, через малоохтинские огороды. В 1903 году городские власти объединили Новочеркасскую улицу и часть существующего тогда Среднего проспекта. Таким образом появился Новочеркасский проспект, трасса которого доходила тогда только до современной Республиканской улицы.
Солдаты Новочеркасского полка принимали активное участие в событиях 1917 года. В связи с этим административный район, образованный здесь в 1973 году, стал называться Красногвардейским. В 1930-х годах началась реконструкция района Малой Охты. Этот район стал первым в городе, где началось массовое типовое жилищное строительство. Продолжилось оно и в послевоенные годы.
В 1956 году в состав Новочеркасского проспекта вошли весь оставшийся Средний проспект и часть Дальневосточного. В 1950-х годах Новочеркасский проспект стали пересекать новые Таллинская и Гранитная улицы, Заневский проспект. На рубеже 1950-1960-х годов на пересечении Новочеркасского и Заневского проспектов была сформирована Заневская площадь. Здания на площади спроектированы архитекторами В. Ф. Беловым и А. А. Олем.
В 1972 году для ЦКБ Машиностроения построен дом №2, предприятие заняло также и бывшие казармы Новочеркасского полка. В этом конструкторском бюро ещё с 1940-х годов разрабатывались центрифуги для разделения изотопов урана. Предприятие является ведущим в области разработок насосов в атомной энергетике.
В 1983 году проспект был переименован в Красногвардейский. В 1985 году на Заневской площади открылась станция метрополитена "Красногвардейская".
В 1990-х годах проспекту было возвращено прежнее название. Станция метро "Красногвардейская" также была переименована в "Новочеркасскую".
В 2006-2007 годах строился жилой комплекс "Новый Город" (дом №33-35). Кроме жилых корпусов здесь будут открыты магазины, офисы, паркинг и торгово-развлекательный комплекс.
В настоящее время начальная часть Новочеркасского проспекта вошла в проект застройки делового района "Охта-Центр". Заказчик этого строительства ОАО "Газпром" ведёт переговоры о выкупе территорий Завода Штурманских Приборов и ЦКБ Машиностроения.
