Подчинение Полоцкой земли значительно укрепило позиции Владимира в борьбе с Ярополком. Опираясь на варягов, новгородское ополчение и силы некоторых северных земель Руси, Владимир и Добрыня двинулись к Смоленску и, разбив войска Ярополка, овладели городом. Теперь путь вниз по Днепру, на Киев, был открыт. Ярополк, симпатизировавший христианам и женатый на христианке (бывшей монахине, которую Святослав, очарованный ее красотой, привез наследнику в подарок с Балкан), не имел большой поддержки среди дружинников и большинства киевлян.
Владимир подошел к Киеву с севера и развернулся лагерем в Дорогожичах. Отсюда он вступил в тайные переговоры с воеводой Блудом, старым знакомым и соратником Добрыни по святославовым походам, тайно перешедшим на его сторону. Блуд убедил Ярополка оставить Киев и пересидеть опасное время в крепости Родня, находившейся на Княжей горе возле Канева. Владимир без боя занял столицу и подступил к Родне. После продолжительной осады Ярополк вынужден был сдать крепость и выйти к брату при условии, что ему будет сохранена жизнь. Однако вскоре он был убит варяжскими дружинниками, вряд ли без санкции на то Владимира. Тогда же Владимир принудил стать его третьей женой вдову Ярополка, которая к тому времени ждала ребенка, будущего князя Святополка.
Утвердившись в Киеве в 980 г., Владимир на первых порах повел себя как ревностный язычник, противник и гонитель христиан. Это было связано как с языческим составом ядра его войска, так и с желанием держать в страхе киевских христиан, окрепших в годы правления Ольги и ранее ориентировавшихся на Ярополка. Одним из ярких эпизодов начала правления Владимира было принесение в жертву Перуну двух киевских варягов-христиан. Выбор жертв не был случайным, поскольку за них как за иноплеменников киевляне не должны были заступаться.
С первых лет пребывания в Киеве Владимир развернул большое строительство на Старокиевской горе, превратившейся при Ольге в административно-дворцовый центр столицы. Князь возводит новый каменный дворец с залом для пиршеств (гридницей), перед которым сооружает величественное капище с идолами языческих богов. Центральной фигурой этого святилища был Перун, древнеславянский бог грома и молний, войны и победы, покровитель князя и его дружины.
Казалось бы, Владимиру во всем сопутствовал успех. В 981 г. он одержал крупную победу над польским князем Мешко I, вернул захваченные тем червенские города Перемышль, Белз, Волынь, Холм по Западному Бугу и наложил на поляков дань. В 983 г. последовал успешный поход на Неман против сильного литовского племенного союза ятвягов, а в 982-м и 984-м гг. была восстановлена власть Киева над землями радимичей и вятичей.