Ярослав мог торжествовать окончательную победу. В 1020 г. у них с Ингигердой родился сын, названный в честь деда Владимиром.
Вопреки ожиданиям, усобицы на Руси не прекратились. Князь Полоцка Брячеслав, племянник Ярослава, в 1021 г. неожиданно напал на Новгород и разграбил город. Собрав киевскую дружину, Ярослав разбил его на обратном пути. Плененные новгородцы возвратились домой, а Брячеславу удалось укрыться в Полоцке. Некоторое время они враждовали, но в итоге примирились и Брячеслав Изяславич признал верховенство Ярослава.
Гораздо больше хлопот доставил киевскому князю его младший единоутробный брат Мстислав, в свое время оправленный Владимиром править в далекую Тмутаракань. В братоубийственной распре он не участвовал, занимаясь укреплением позиций Руси в Предкавказье. Славу ему принесла победа над касожским (черкесским) князем Редедей.
В начале 1024 г., когда Ярослав находился в Новгороде, Мстислав со своей дружиной и подвластными ему хазарами и черкесами неожиданно появился у стен столицы, однако киевляне не приняли его и он занял Чернигов. Узнав об этом, Ярослав стал готовиться к войне, однако недооценил силы брата. Осенью 1024 г. Мстислав нанес войску Ярослава сокрушительное поражение под городком Лиственом неподалеку от Любеча, но убедившись в том, что киевляне не желают видеть его великим князем, сам обратился к Ярославу с предложением: «Сиди ты на столе своим в Киеве, поскольку ты есть старший брат, а мне пусть будет сия сторона» — Днепровское Левобережье. Ярослав ответил не сразу, с осени 1024 до весны 1026 г. оставаясь в Новгороде, тогда как «в Киеве сидели мужи Ярославовы».
В 1025 г. у Ярослава родился сын Изяслав, княживший на Руси после смерти отца. В ближайшие годы Ингигерда родила ему еще двух будущих великих князей — Святослава в 1027-м и спустя три года — Всеволода.
Весной 1026 г. Ярослав, собрав значительные силы, двинулся к своей столице. Из Чернигова к Киеву выступил и Мстислав. Князья встретились на рукаве Десны в месте ее впадения в Днепр и в ходе личных переговоров Ярослав принял предложения брата. На Руси утвердилось их совместное правление. Мстислав признал за Ярославом старшинство и власть над Киевом и Новгородом, а также всеми землями к западу от Днепра, а за собой оставил земли восточнее Днепра с центром в Чернигове, а также Тмутаракань с Белой Вежей.
Разногласий между братьями более не возникало, и они помогали друг другу в войнах. Наиболее значительным их успехом стала победа над Польшей, ослабленной начавшимися после смерти Болеслава Храброго распрями. В 1031 г. Ярослав и Мстислав выступили в поход против Польши, в результате чего под власть Киева была возвращена Червенская Русь с городами Перемышль и Холм. Из польского плена возвратились томившиеся там свыше десяти лет киевские бояре, уведенные Болеславом. Братья смогли повидаться со своими сестрами Предславой и Премыславой, уже давно состоявшими в браке с представителями правящих домов Чехии и Венгрии.