Гостиница "Эрмитаж" на 110 мест была построена архитектором С. И. Гущиным по заказу купца Г. В. Александрова. После революции здание занимали партийные ограны: в 1934-1937 гг. — Северо-Кавказский краевой комитет ВКП(б), до 1973 г. — горком партии и горисполком. На первом этаже и в подвале в 1936-1982 гг. находилась городская библиотека им. Горького.