Памятник был сооружён в 1886 году по проекту Д. И. Гримма и обошёлся в 200 тыс. рублей. 12 октября 1886 года Триумфальный монумент открывал лично Император Александр III.
Памятник представлял собой 28-метровую колонну, сложенную из пяти рядов пушек, отбитых в войну у турок. На верху колонны был расположен гений с лавровым венком в протянутой руке, увенчивающий победителей. Пьедестал памятника имел высоту около 6½ метров, со всех четырех сторон которого были вделаны бронзовые доски с описаниями основных событий войны и названий воинских частей, принимавших в ней участие.
С двух сторон от памятника, по проспекту, стояли два столба из турецких пушек, вокруг Памятника же на отдельных гранитных пьедесталах стояли артиллерийские орудия, также захваченные у неприятеля.
В 1925 году большевики предполагали заменить памятник на монумент декабристам.
Памятник был уничтожен в 1929-1930 годах.
В январе 1930 года мемориальный комплекс был разобран и позже переплавлен. По одной из легенд, все дело заключалось в дружбе с Турцией, которая сочла оскорбительным существование в «дружественном» СССР такого памятника. Памятник уничтожили под предлогом того, что он представлял собой символ «русского милитаризма».
В 1969 году на месте колонны установили монумент В. П. Стасову, архитектору собора. Его поставили к 200-летию со дня рождения зодчего (1769—1848). Это был бюст, установленный на длинный металлический постамент. Вокруг разбили сквер.
Колонна Славы была восстановлена в 2001-2005 годах.
В 2004 году монумент архитектору перенесли в Музей городской скульптуры на временное хранение с целью установки на Троицкой площади воссозданного Памятника русской воинской славы. Открытие последнего состоялось 1 октября 2005 года. В новом конструктивном решении на стволе колонны декоративный рельеф, имитирующий пушечные стволы. Части колонны безвозмездно отлиты из чугуна на Ново-Липецком металлургическом комбинате, покраска и отделка – на петербургском предприятии «Адмиралтейские верфи». Бронзовая скульптура Славы отлита на заводе «Монументскульптура» по модели Зураба Константиновича Церетели. Кроме того, он полностью профинансировал заказ.
К Зурабу Константиновичу обратился настоятель Троицкого собора потому, что художник уже работал над восстановлением храма Христа Спасителя в Москве.
19 октября 2006 года Зураб Церетели был удостоен ордена Русской православной церкви за воссоздание триумфальной колонны.
Архитектор проекта воссоздания Г. А. Шереметьев.
26-метровую колонну-основание установили в мае 2004 года. А осенью 2005-го на своё место вернулась и богиня Ника. 1 октября 2005 года состоялось торжественное открытие и освящение Колонны Славы.
В целом же современный памятник соответствует оригиналу. Высотой около 30 метров и общим весом 250 тонн, он представляет собой чугунную колонну, сделанную из шести ярусов.