Иван Александрович Фомин родился 22 января 1872 года в Орле в семье почтового чиновника. Через четыре года семья Фоминых переехала в Ригу, где Иван к 1890 году окончил гимназию. В этом же году он уехал в Москву для поступления на математический факультет университета. Математика давалась юноше легко, но его больше заинтересовала архитектура. На третьем курсе Иван Фомин оставил университет и переехал в Санкт-Петербург, где подал прошение на поступление в Академию художеств. С первого раза поступить в Академию ему не удалось, подвела слабая подготовка в рисовании.
В течение следующего года Иван Фомин отбывал воинскую повинность в инженерных войсках и упорно занимался рисованием. Летом 1894 года он всё-таки поступил в архитектурное отделение Высшего художественного училища, только что открытого при Академии художеств. Закончить пятилетнее образование ему не удалось. В 1897 году из-за студенческих волнений все студенты были отчислены. Вновь поступить в Академию можно было только подав специальное прошение. Этого делать Иван Фомин не пожелал. Он отправился за границу, где год прожил в Париже, изучая современные архитектурные проекты. Его увлёк новый стиль "модерн".
Вернувшись в Россию, Иван Фомин поступил в Техническо-строительный комитет министерства внутренних дел в должности помощника архитектора. Первым местом работы для него стала Москва, где Фомин трудился помощником архитектора Шехтеля.
В 1905 году Фомин снова приехал в Санкт-Петербург и подал прошение на поступление в Высшее художественное училище. Снова поступив в училище, он приступил к занятиям в мастерской Л. Н. Бенуа.
Фомину пришлось сдавать экзамены по всем пропущенным предметам. Быстро это сделать не оказалось возможным. У архитектора уже появилась семья, и он был вынужден браться за любую работу. Академию Иван Фомин закончил с отличием и правом на заграничную поездку, но только в 1909 году.
Летом 1909 года Иван Фомин покинул Санкт-Петербург. Он ехал через Одессу, Константинополь, Грецию и далее девять месяцев путешествовал по Италии, Египту. В середине 1910 года Фомин вернулся в Россию.
Первой работой архитектора стал дом княгини М. А. Шаховской (наб. р. Фонтанки, 27). Зодчий строил загородные дома для князя Оболенского в Финляндии, для князя Гагарина в Псковской губернии. В 1911-1914 годах по проекту Фомина были сооружены его самые значительные постройки - особняки А. А. Половцева (на Каменном острове) и С. С. Абамелек-Лазарева (наб. р. Мойки, 23).
Иван Фомин много работал над интерьерами. Его заказчиками были сенатор Д. Б. Нейдгарт (Захарьевская ул. 31), граф Воронцов-Дашков (Моховая ул. 10).
В 1911-1913 годах вместе с Ф. И. Лидвалем Иван Фомин занимался проектированием застройки острова Голодай. Здесь планировалось построить район "Новый Петербург". По созданному проекту удалось завершить только одно здание - пер. Каховского, 2. Осуществлению данного проекта помешала начавшаяся Первая мировая война.
В 1915 году Иван Александрович Фомин стал академиком архитектуры. В 1918 году зодчий стал профессором одной из Государственных свободных художественно-учебных мастерских, которые были созданы взамен Академии художеств. Мастерская Фомина располагалась на третьем этаже здания Академии.
По проекту Фомина в 1920 году реконструировалась территория Марсова поля. Архитектор создал на бывшем пыльном военном плаце существующих до сих пор партерный сквер. В 1931 году он приступил к работе в Москве, всё реже появлялся в Ленинграде. После выхода из состава профессоров Академии художеств Фомин занимался строительством только в Москве.
Иван Александрович Фомин умер 12 июня 1936 года.