Строительство здания Русского общества, построенного в 1895 – 1896 годах, связано с волной русификации конца XIX века, а также активизацией культурной и общественной жизни русского населения Таллинна. Аналогичный немецкий клуб «Ревель» действовал недалеко от Суур-Карья, 20. Эскизный проект здания подготовил Михаил Преображенский. Окончательный проект подготовил Рудольф Отто фон Кнюпфер.
На первом этаже достроенного двухэтажного здания по обе стороны от вестибюля главного входа располагались бильярдная и читальный зал, на втором этаже располагался торжественный зал со сценой и приемной: Со стороны двора остались кухня и буфетные вспомогательные помещения, комнаты для карточных игр и кабинеты. Кроме того, в подвале здания имелся боулинг и складские помещения.
Во время Первой мировой войны и до 1920 года в здании размещалось управление общественного питания города Таллинна и конторы социального обеспечения, с 1921 по 1924 год — также так называемый «Рабочий подвал», центр таллиннских рабочих организаций.
В 1920 году Таллиннская центральная библиотека получила в свое пользование здание бывшего русского клуба. Изменившиеся функции также привели к реконструкции, не сохранившей ни первоначальной планировки, ни внутреннего оформления: капитальные ремонтные работы проводились в 1925 г. (архитектор Герберт Йохансон) и 1938 г. (инженер Э. Мыттус). Последний раз здание ремонтировалось в 2000-2002 годах.