Здание контрольной палаты — выдающийся образец архитектуры позднего русского классицизма, построенный в 1839 году. Первоначально оно было возведено как городской особняк по заказу винного откупщика Андрея Ивановича Еникуцева на месте старых винных подвалов. Архитектурный облик здания формируют симметричные фасады с шестиколонным портиком и треугольным фронтоном, украшенные лепными деталями, характерными для ампира: розетками, масками, растительным орнаментом и ажурной литой решеткой. Здание имеет три этажа и цокольный этаж, его габариты составляют 49,8×16,9 метров. Внутренние помещения включали парадный зал с мраморной лестницей, апартаменты и служебные комнаты. В 1852 году здание было приобретено для канцелярии генерал-губернатора, а после 1881 года здесь разместилась Государственная Контрольная палата. В советское время в здании находились различные административные учреждения. С 1946 года оно передано музею. Здание признано объектом культурного наследия федерального значения и является уникальным памятником архитектуры, не имеющим аналогов в регионе.