В 1906 г. по ходатайству Пензенского римско-католического общества на усадьбе цеховой Устиньи Сабуровой был построен польский костёл. В 1920 г. службы в костёле прекратились, а сам костёл в 1931 г. был закрыт, после чего были разобраны шатровые звонницы и прорублены дополнительные окна, а в здании разместился «Дом учителя».
