Идея создать памятник в честь побед, одержанных русскими войсками под командованием генерал-фельдмаршала П. А. Румянцева-Задунайского возникла у императрицы Екатерины II в 1795 году. Этот замысел был реализован при Павле I. Император сначала пытался уговорить сыновей Румянцева отказаться от идеи установки обелиска взамен на строительство дворца за казённый счёт. Но те отказались.
В феврале 1798 года Павел I дозволил установить памятник. Его указ гласил: "На сооружение в память побед генерал-фельдмаршала Румянцева-Задунайского обелиска, предполагаемого быть на площади между Летним садом и Ломбардом, повелеваем исчисленную сумму 82 441 рубль отпускать в распоряжение нашего гофмаршала графа Тизенгаузена, сколь он ея когда потребует" [Цит. по: 2, с. 187]. Проект памятника поручили составить архитектору Винченцо Бренна.
Составные элементы обелиска Румянцева победам были изготовлены в Петербурге течение нескольких месяцев. В начале 1799 года обелиск "Румянцева победам" был установлен на Марсовом поле близ реки Мойки. Высота памятника составила 21,3 метр. Обелиск и цоколь памятника сделаны из сердобольского гранита, пьедестал - из розового тивдийского и серого рускольского мраморов Олонецкого края. Барельефы выполнены из белого итальянского мрамора.
В 1801 году, когда рядом был установлен памятник А. В. Суворову, обелиск Румянцева победам перенесли ближе к Мраморному дворцу. В 1818 году по инициативе архитектора К. Росси памятник снова перенесли. На этот раз по повелению императора Александра I его установили на плацу между зданиями Академии художеств и Первого кадетского корпуса (Меншиковский дворец), где учился сам Румянцев.
Росси не только переместил обелиск, но и изменил его композицию. В Румянцевском саду он поставил его на гранитный стилобат со ступенями. За первые десять лет нахождения памятника на Васильевском острове часть его бронзовых украшений была украдена, некоторые элементы повреждены. В 1809 году реставрацией обелиска Румянцева победам занимался архитектор А. Н. Воронихин. Недостающие детали заново отлил мастер Екимов.
Позже обелиск был окружён Румянцевским садом, организованным здесь в 1866-1867 годах.
