Первоначальная ограда появилась на Кремлевском холме одновременно с селением, которое расположилось тут, как считают ученые, в первой половине I века, когда русские начали заселять междуречье Оки и Волги. Славяне издавна жили под защитой ограды и укрепляли не только каждое селение, но часто и каждый двор. Гардарикой (страной городов) называли Древнюю Русь жители Скандинавии, так как каждое селение, окруженное оградой, казалось им городом. А место на высоком мысе при слиянии Москвы-реки и Неглинной с самого начала представляло собой стратегический пункт, так как находилось на перекрестке дорог — с севера на юг и с северо-запада на северо-восток.
Зерно будущего Кремля и по месту, и по размерам очень походило на древние городища, которые почти всегда располагались на высоких холмах при слиянии двух рек: с двух сторон они были ограждены крутыми обрывами, а с третьей — рвом и валом. К 1147 году, когда Москва впервые упоминается в летописях, она сделалась уже значительным селом, и к этому времени укрепления ее состояли, по-видимому, не из одних только земляных насыпей с частоколом наверху. О размерах этого укрепления можно судить по местоположению первой на Москве церкви во имя Иоанна Предтечи, которая до 1847 года стояла на старом месте. Находилась она в 120 шагах от Боровицких ворот, а так как церкви ставились обычно на середине селения, то Кремль простирался и по другую сторону от церкви тоже на 100–120 шагов Предположение это впоследствии подтвердилось, когда при возведении Большого Кремлевского дворца нашли остатки вала и рва. Таким образом, вся крепость тогда из конца в конец равнялась приблизительно 250 шагам.
В начале апреля 1147 года суздальский князь Юрий Долгорукий, возвращаясь из похода на Новгород, пригласил на пир своего родственника и союзника Святослава Северского. Князья встретились на высоком берегу Москвы-реки, где среди густого бора стояла сельская усадьба. Так что своих гостей хлебосольный князь встретил не на пустом месте, и ему было чем угостить: их обед в честь званых гостей, по словам летописца, был «силен» — то есть щедрый и обильный. Существует легенда, что Юрий Долгорукий будто бы повелел заложить новый город после одного чудесного видения.
Ехал князь с дружиной через дремучие леса, топкие болота, по сторонам посматривал. Вдруг видит, что впереди между деревьями то ли туман встает, то ли дым клубится.
— Что это там такое? — воскликнул князь.
Посмотрели все и увидели, как облако на глазах превращается в неведомого зверя с тремя головами и пестрой шерстью. Замерла княжеская дружина в изумлении, а чудный зверь стал таять да и исчез совсем.