Более полутора века существует лестница. В ноябре 1879 года она впервые была озеленена. В 1934 году началась капитальная реконструкция Каменной лестницы. Планировалось установить до 30 гипсовых античных фигур I-V веков до нашей эры, таких как "Афродита Капуанская", "Милосская собака", "Мальчик с гусем", "Мальчик, вынимающий занозу" и др. К праздничным дням 1 мая 1935 года выполнили основные работы: установили 8 скульптур, 30 греческих и римских ваз. Спуск сильно озеленили, осветили прожекторами и светильниками. Внизу оформили два скверика с фонтанами, где шла торговля прохладительными напитками и мороженым. Посещаемость Каменной лестницы быле высокой. В 1972 году она была реконструирована. В наши дни после выпускных вечеров школьники города по давней традиции встречают рассвет своего первого самостоятельного дня на Каменной лестнице.