Предшественником Нарвской мужской гимназии было уездное училище, перенесенное в 1848 г. в Нарву из Ямбурга и получившее название «Нарвское высшее уездное училище». Для этого учебного заведения было приобретено здание в стиле классицизма на улице Ровяной (в настоящее время О. Кошевого, Краави), принадлежавшее коменданту города барону Велио. В 1875 г. училише превратилось в 4-классную прогимназию, а в 1879 г. — в 6-классную. 8-классная Нарвская гимназия была организована на базе прогимназии в 1881 г. В 1911 году к зданию гимназии были пристроены два соседних каменных дома, в которых находились квартиры директора и учителей. Один из них до сих пор объединен с главным зданием. В 1912 г. архитектор Прокофьев подготовил проект реконструкции и расширения здания. Проект так и остался на бумаге, поскольку не предусматривал строительства спортзала и прочего, что было необходимо школьному зданию. В 1896 — 1905 гг. при мужской гимназии работали воскресные курсы черчения и рисования для ремесленников и мастеров города и рабочих Кренгольмской мануфактуры. Как филиал Петербургского Училища технического рисования, основанного А. Штиглицем, при Нарвской льнопрядильной фабрике с 1895 г. были организованы курсы рисования. На дневном и вечернем отделении этих курсов в 1904 г. обучалось 617 чел. В 1914 г. тогдашний архитектор Кренгольмской мануфактуры Александр Владовский разработал окончательный проект, который включал в себя соответствующие требованиям классные комнаты, спортивный и актовый зал и многое другое. После завершения строительных работ в 1916 г. здание приобрело размер и внешний вид, которые во многом сохранились до сих пор. Во время Великой Отечественной Войны здание школы было сильно повреждено, но к 1948 году его восстановили в прежнем объеме, хотя и были утеряны отдельные элементы декора.