Внутри кремлей располагались жизненно важные объекты города, такие как церкви, оружейные склады и мастерские, административное хозяйство. Место для постройки кремля обычно выбиралось на холме, рядом с рекой или другими естественными препятствиями.

В 1326-1327 годах на самой высокой точке Боровицкого холма (на территории Соборной площади) был построен Успенский собор — первый каменный собор Кремля. Затем, в 1366 — 1369 годах было решено сделать каменным и сам Кремль. По мере возвышения Москвы и укрепления Московского княжества, росло и значение новой, теперь уже каменной крепости.