Сквер был основан в 1960 году. В то время он именовался как Дендрологический сад имени А.Гайдара и находился чуть ниже уровня соседних зданий, имел густую растительность. В 1977 году здесь установили бюст Феликса Дзержинского, а в 1984 году, по указу Горисполкома, сад был переименован в сквер имени Ф. Э. Дзержинского.