Собор находится на улице Малая Пролетарская (бывший Федоровский переулок). Приход состоит из двух храмов – летнего Фёдоровского и зимнего Никольского. Пятиглавый каменный холодный храм в честь Фёдоровской иконы Божией Матери сооружен в 1687 году на месте, где стоял дом одного из горожан, который «своим двором поступился под церковь каменную пресвятой Богородицы». За образец был выбран храм Вознесения Господня. Работы велись «всем народом», «покров и главы довершил своим иждивением един от жителей прихода сего» земский староста Родион Леонтьев Еремин. В 1736 году с запада к храму была пристроена закрытая паперть с высоким крыльцом. Позднее с южной стороны паперти был устроен придел в честь Тихвинской иконы Богоматери. Внешний декор церкви весьма скромен. Основным украшением стен является широкий пояс из двенадцати профилированных кирпичных рядов, на который опираются завершающие стены декоративные полукружия.