Консерватория была построена на месте Большого (Каменного) театра по проекту В. В. Николя.
Консерватория с Большим залом имела два главных фасада: на Офицерскую и Торговую улицы. Здание в стиле итальянского Возрождения вмещало 654 студента.
В 1912 году архитектор Т. Я. Бардт перестроил Большой зал из-за плохой акустики и видимости, укоротив и расширив его, что привело к утрате первоначальной роскоши.