История храма начинается в 1326 году, когда великий князь Иван Калита и святитель Петр заложили на этом месте первый каменный собор в Москве, посвященный Успению Пресвятой Богородицы. Толчком к строительству послужило обретение Москвой статуса первопрестольного города. Отныне именно Московский, а не Владимирский Успенский собор был призван стать главным храмом Святой Руси.
В конце XV в. великий князь Иван III, объединивший под властью Москвы все русские княжества, начал создание своей новой резиденции с перестройки Успенского собора. Храм разобран в 1472 году до самого основания, при этом были обретены мощи свт. Петра. Псковские мастера Кривцов и Мышкин возвели новый собор, однако он неожиданно рухнул. Тогда Иван III пригласил из Италии архитектора Аристотеля Фиораванти, под руководством которого и было построено (в 1475-1479 гг. ) здание, и поныне украшающее Московский Кремль. Фиораванти было поручено взять за образец Владимирский Успенский собор — тем самым подчеркивалась преемственность Москвы по отношению к одному из древних центров Святой Руси.
20 августа 1479 года митрополит Геронтий совершил освящение храма. Мощи святителя, находившиеся во время строительства в церкви святого Иоанна Богослова, были перенесены в собор.
