История территории по которой проходит современный Среднеохтинский проспект является историей возникновения самого Санкт-Петербурга. Ещё в XIV веке здесь появилось поселение Невское Устье, которое во время шведского владения называлось Ниен. Среднеохтинский проспект в своей начальной части проходит по территории этого поселения.
В феврале 1720 года Пётр I издал указ о селении на Охте слободы плотников. Сюда были переселены рабочие в основном из северных районов, работали они на Партикулярной верфи находясь практически на крепостном положении. Тогда то здесь на месте разрушенного Ниена и появились новые улицы, одна из которых наметила начало современного Среднеохтинского проспекта. Её первое название - Задний Охтинский проспект.
1858 год резко изменил жизнь этого района. Охтинцы освобождались от обязательных адмиралтейских работ, им разрешалось продавать свою недвижимость. На Охте резко увеличилось население, появилась новая застройка. Именно в 1850-х годах появились Большой и Средний Охтенские проспекты, будущие Большеохтинский и Среднеохтинский. Позже названия видоизменялись, проспект назывался Средне-Охтенским, Среднеохтенским.
В своём начале от проспекта отходит Конторская улица. На её противоположной стороне находилось здание Конторы охтинского поселения, от которого улица и получила своё название. Управление районом Контора управляла при помощи старост, за которыми были закреплены определённые участки. По каждому из них проходила отдельная улица. Эти улицы, пересекающие Среднеохтинский проспект, получили название по своим старостам: Абросимова, Гурдина, Гусина, Миронова, Панфилова, Тарасова, Терентьевская, а также Гришин, Захаров и Щеглов переулки.
В правую сторону от проспекта отходит Шепетовская улица. Она появилась как дорога от Невы к Георгиевскому кладбищу, с 1826 года называлась Георгиевской.
Дом №27 (на углу с Большой Пороховской улицей) был построен в 1906-1907 годах по проекту М. М. Софронова. В 1906-1908 годах на участке дома №21 было построено подворье Коневского монастыря. Здесь по проекту архитектора Н. Н. Никонова возвели церковь в древнерусском стиле.
В 1920-е годы на проспекте начали движение трамваи. Церковь Коневского подворья была разобрана, на её месте построен жилой дом.
В 1945-1950 годах кварталы вокруг проспекта были реконструированы и озеленены. В 1950-х годах здесь было построено большое количество жилых домов в классическом стиле по проектам А. К. Барутчева и Я. О. Рубанчика. В то же время в районе проспекта стали появляться здания типовых проектов. В 1956 году официально утвердили название проспекта - СреднеохтИнский.
6 июня 2003 года в саду "Нева" близ пересечения проспекта с Шоссе Революции была открыта скульптурная композиция "Охтенка". В 2007 году рядом открылся торговый центр "Орловский". Его строительство сопровождалось большим количеством протестов жителей района, которые были против застройки сада.