Когда программа основных разделов экспозиции была составлена, стало возможным проведение конкурса на лучший проект здания музея. Московская городская дума в апреле 1874 года приняла решение о безвозмездном отводе под исторический музей участка, незадолго до этого выкупленного ею у казны для строительства своего нового здания. Предоставленное место было прекрасным, но при этом очень непростым: легко ли построить нечто такое, что будет достойно смотреться рядом с кремлёвскими башнями, выдержит соседство с храмом Василия Блаженного?..

      Победитель конкурса сумел решить эту непростую задачу, продемонстрировав тонкое понимание древнерусского зодчества. По странной прихоти судьбы победителем оказался внук приглашённого из Англии механика Владимир Осипович Шервуд, окончивший Московское училище живописи, ваяния и зодчества «по классу пейзажа» и потому не обладавший правом выступать в качестве архитектора. Техническую часть проекта взял на себя соавтор, инженер Анатолий Семёнов, строивший Севастопольский отдел выставки.

      При поверхностном взгляде может показаться, что гармония с архитектурным ансамблем Красной площади достигнута за счёт использования красного кирпича, – но ведь Кремлёвская стена не была красной (до 1930-х годов её по установившейся традиции белили известью, равно как и стену Белого города, и Китайгородскую, отчего и возникло выражение «Москва белокаменная»).

      Шервуд смог найти стилевое соответствие. Не повторяя формы архитектурных памятников, он использовал приёмы и детали, заимствованные из древнерусского зодчества. Основой композиции Исторического музея стала система разновеликих островерхих башен, чем-то напоминающих кремлёвские, но не копирующих ни одну из них. Расчленённый объём здания делает его неуловимо похожим на собор Василия Блаженного, который представляет собой комплекс отдельных храмов, поставленных на общее основание. Несмотря на эклектичность, творение Шервуда имело облик яркий и оригинальный и оказало большое влияние на русскую архитектуру последней четверти XIX века, сделавшись образцом стиля (который позже, в эпоху торжества идей интернационализма, был назван «псевдорусским»).

      Торжественная закладка фундамента Исторического музея состоялась 1 сентября 1875 года при огромном стечении народа, и сам император Александр II заложил первый камень. Пока три сотни рабочих возводили огромное здание, в котором над подвалом и цокольным этажом предстояло расположить анфиладу из 47 экспозиционных залов, создатели музея продолжали свой спор о том, каким ему быть. Забелин предлагал в оформлении залов использовать найденные при раскопках конкретные элементы древних сооружений или их точные копии, Шервуд же считал, что музею следует быть не «складом вещей», а чем-то большим, а потому каждый зал должен строго выдерживать стиль соответствующего периода,