Организован на территории бывшего сада на Госпитальной площади. Первая закладка сада произведена в 1892 году в треугольнике нынешнего парка, примыкающего к Парковому проспекту. Позже была произведена закладка сада во втором треугольнике, примыкающем к проезду Коммунаров. Основным посадочным материалом были тополь черный (осокорь), тополь белый, вяз обыкновенный, вяз мелколистный. В 1935 году при реконструкции сада под парк много было высажено клена ясенелистного, вяза мелколистного, ясеня обыкновенного. Парк до 1991 года славился своими фонтанами и лучшим цветником в городе. Здесь было сильное оранжерейное хозяйство.