Гимназия была основана супругами А. С. и А. Д. Алфёровыми.
А. С. Алфёрова обсуждала с А. И. Чупровым план учреждения собственной гимназии. Гимназия была официально учреждена в 1896 году. Первоначально для гимназии была снята квартира в доме С. М. Фроловой (Плющиха д. 4/43), но официальным адресом гимназии была квартира А. Н. Авдеевой (Кривоарбатский переулок, д. 2/37). К 1902 году число учениц достигло 230, гимназия стала полноценной восьмиклассной гимназией Министерства просвещения, получившей права наравне с государственными гимназиями и предлагавшей объём знаний мужских гимназий.
В 1904 году был куплен участок для строительства здания гимназии на Мухиной горе рядом с церковью Благовещения на Бережках (по имени церкви назван Большой Благовещенский переулок) с целью успешного развития гимназии. Дом был построен на деньги благотворителей, среди них С. А. Муромцев. К. Т. Солдатёнков завещал гимназии учебники и книги. Дом построен по проекту И. А. Иванова-Шица. Здание было завершено в 1906 году. Адрес — Большой Благовещенский переулок, д. 21.
В здании гимназии была предусмотрена и квартира для директорской четы. Александра Самсоновна страдала болезнью сердца, поэтому для неё в здании был построен лифт. Память выпускниц школы сохранила историю, как однажды лифт застрял и Алфёрова провела урок математики из-за лифтовой решётки.