История строительства здания библиотеки очень любопытна. В Екатеринодаре широко торговал мануфактурой армянский купец Борис Черачев. Однажды он посулил привезти красавице-жене из Парижа комплект дорогих золотых украшений. Но мудрая женщина отказалась от щедрых посулов и попросила нечто совершенно иное: «Построй лучше на эти деньги училище». Здание Армянской школы было возведено в 1916 году известными архитекторами Н. Козо-Полянским и Л. Эбергом. Средства на его строительство пожертвовал Борис Черачев, и в знак благодарности армянское общество присвоило школе его имя, о чём гласила надпись на фронтоне. Здесь учились мальчики и девочки в основном, армянской национальности. В залах школы устраивались народные чтения, ставились любительские спектакли и даже проводились заседания Городской Думы.
После войны здание сильно пострадало, при его восстановлении был изменен проект под библиотеку, которая переехала сюда после его восстановления в 1956 году. Сейчас у библиотеки крупнейший на Кубани фонд с множеством раритетных изданий.