31 марта 1999 г. зелёная зона на проспекте К. Маркса стала называться бульваром имени генерала А. П. Ермолова по решению Ставропольской городской Думы.
Памятником природы садово-паркового искусства г. Ставрополя является бульвар имени А. Ермолова.
Решением Ставропольского городского Совета народных депутатов от 13 мая 1993 г. № 58 бульвар включён в объединённую охранную зону Ставрополя "Старый город". А решением Ставропольской городской думы от 31 марта 1999 г. № 46 зелёной зоне по проспекту Карла Маркса присвоено название "Бульвар имени генерала А. Ермолова" по предложению краеведа Г. А. Беликова.
Официально закладка бульвара началась в 1839 г. по инициативе командующего войсками Кавказской линии и Черномории, начальника Кавказской области генерал-лейтенанта П. Х. Граббе.
В июне 1837 г. стало известно о визите императора Николая I на Кавказ, местные власти озаботились благоустройством главной улицы: на бульваре были высажены липы, устроена каменная ограда.
В 1848 г. на Верхнем бульваре по инициативе нового командующего Кавказской линией генерал-лейтенанта Н. С. Завадовского продлили бульвар "от бассейна на Думской площади до Тифлисской заставы, где в 1841 г. были построены ворота". Архитектор А. У. Красевич и садовник П. Н. Нечмиров высадили саженцы пирамидального тополя, липы, клена, хвойников, кустов сирени, жасмина, барбариса из крымских имений князя М. С. Воронцова. Появились и первые цветочные клумбы.
В 1851 г. главная улица города, "почти совершенно вымощенная и украшенная на протяжении более одной версты новым бульваром с решеткою", была названа Николаевской. В начале и в конце Нижнего бульвара были поставлены две пары каменных пирамид с металлическими ажурными арками: "Бульвар Н. С. Завадовского. Устроен в 1849 году".
По словам И. В. Бентковского, "Бульвар составляет главное место для прогулок ставропольской публики. В хорошую погоду на нём каждый день можно встретить весь цвет ставропольского общества, бывают иногда и такие случаи, что бульвар не в состоянии вместить всех посетителей, и это лучше всего свидетельствует о его красоте".
В устройстве бульвара принял участие городской садовник Б. И. Новак, который посадил 450 деревьев.
В 1947 г. началась масштабная реконструкция, бульвар продлили до железнодорожного вокзала.
В 2004 г. бульвар Ермолова был включён в реестр объектов культурного наследия регионального значения, его протяжённость сейчас 1,7 тысячи метров.
