В 1862 году между Красным прудом и Николаевским вокзалом (сейчас Ленинградский) был построен маленький вокзал Московско-Троицкой железной дороги. Белое двухэтажное здание отличалось строгостью и изяществом линий. Венчал здание флагшток, где трепетал на ветру флаг ведомства путей сообщения. В 1895—1896 годах по проекту архитектора Л. Н. Кекушева были перестроены восточное крыло и перрон вокзала. В 1902—1904 Ф. О. Шехтелем к старому зданию вокзала был пристроен новый фасад с залом ожидания, решённый в неорусском стиле с элементами северного модерна. Воспользовавшись характерным для древнерусского зодчества принципом соединения в одно целое разнообразных по формам и масштабу построек, архитектор выделил объём главного пассажирского зала, соединённого с вестибюлем и аванзалом и обеспечивающего прямой проход к перронам. В наружном оформлении вестибюля использованы пластически акцентированные формы гигантской входной арки, килевидного козырька над ней, обрамляющих её полукруглых пилонов со стилизованными крепостными башенками, высокой «теремной кровли» с подзором и венчающим гребнем, делающими облик здания неповторимо причудливым. Вертикальному силуэту вестибюля вторит высокая левая башня с шатровым завершением. Верхнюю часть стен украшают керамические декоративные панно со стилизованными растительными орнаментами приглушённых тонов, соответствующих общему неяркому цветовому решению фасадов, которое должно рождать ассоциативные связи с образом русского Севера. В нише фронтона над входом в вестибюль вокзала Шехтель расположил рельефные изображения гербов трёх городов, которые связала Ярославская железная дорога. Это Георгий Победоносец — Москва, поражающий дьявола Михаил Архангел — Архангельск и медведь с секирой — Ярославль. Все они — символы главного хода Ярославского направления. Интерьеры вокзала первоначально были оформлены панно художника К. А. Коровина.