Город основан в 1584 г. по завершении Третьей черемисской войны как русская крепость. Назывался Царёв город на Кокшаге.
Статус города присвоен в 1781 г., тогде же было утверждено официальное наименование — Царевококшайск. Уездный город Казанской губернии.
Население всего города в 1916 г. составляло 1 893 человека, промышленности не было никакой, за исключением винокуренного завода.
Развитие город получил только после Великой Октябрьской социалистической революции.
В 1919 г. город был переименован в Краснококшайск.
В 1920 г. стал центром Марийской Автономной области.
В 1928 г. переименован в Йошкар-Олу (с марийского — Красный (Йошкар) Город (Ола)).
С 1936 г. — столица Марийской АССР.
Современная Йошкар-Ола — крупнейший город, промышленный и культурный центр Республики Марий Эл.
Население в 2018 г. — 268 272 чел.