Бывший дом военного инженера С.В. Яфимовича был построен в первой половине XlX века, а в 1870-1873 годах перестроен по проекту архитектора Ф.И. Шустера. Является памятником истории и культуры регионального значения. Фасад дома в стиле необарокко отличается богатым лепным декором, включая фигуры путти и гермы, выполненные скульптором Давидом Йенсеном. Особенностью архитектуры стали 13 балконов по всей длине дома на уровне третьего этажа, которые "поддерживаются" фигурками путти.
В оформлении фасада прослеживаются черты, схожие с парижской архитектурой, что подчеркивало престижность здания. Первоначальным владельцем дома был купец первой гильдии, виноторговец и банкир И. О. Утин, которого считали одним из самых богатых людей страны. Позднее здание принадлежало барону Горацию Гинцбургу и обществу страхования имущества. Внутренние интерьеры отличались роскошью, а само здание часто сравнивали с дворцом.