Советское командование предполагало силами 47-й армии нанести главный удар в обход Ковеля с севера и юга, с одновременным нанесением вспомогательных ударов силами 70-й и 61-й армий. 15 марта советские войска перешли в наступление. Угроза потери этой важной стратегической позиции стала реальной, и Гитлер отдал приказ дивизии «Викинг» войти в «крепость Ковель» (Festung Kowel), организовать его оборону и не сдавать ни при каких обстоятельствах.
Хотя дивизия «Викинг» и получила пополнение и технику, переформирование еще не было завершено и ее ударная мощь не была восстановлена. Проведение новой операции для дивизии грозило полным уничтожением. Гилле это понимал и попытался апеллировать к Гитлеру, но не был услышан. Призывы Гилле, заявлявшего «Дивизии “Викинг” больше нет! Мы – всего лишь кучка выдохшихся людей!», услышаны не были. Гитлер требовал одного: держаться во чтобы то ни стало. Гилле же привык подчиняться приказам и заявил генерал-инспектору танковых войск Гейнцу Гудериану: «Господин генерал-полковник! Я не могу требовать этого от своих людей, они попросту больше не могут. Однако, исходя из оценки общей ситуации, я вижу, что Ковель нужно удержать. Я один полечу в Ковель и организую сопротивление в городе».
Прибыв 15 марта в Ковель, Гилле принял командование гарнизоном: ранее все находившиеся в городе войска были сведены в боевую группу СС «фон дем Бах», которой командовал обергруппенфюрер СС Эрих фон дем Бах-Зелевски. Бах не имел опыта командования полевыми частями, ранее его главной задачей была организация борьбы с партизанами на оккупированной территории СССР, и, как следствие, Гилле нашел оборону города в неудовлетворительном состоянии. Все же под командованием Гилле оказалось около 8,5 тысяч человек – в основном из состава двух полицейских батальонов, а также других мелких частей. Противостоящая немцам 47-я армия насчитывала на 15 марта 6 стрелковых дивизий, 1 танковый полк (21 танк) – всего 50,1 тысячи человек, 937 орудий и минометов; в течение всей операции силы 47-й армии постоянно наращивались и, несмотря на большие потери к 5 апреля она насчитывала 10 стрелковых дивизий и 5 танковых полков (61 танк) – всего 60,5 тысяч человек, 1564 орудия и миномета.
К 18 марта войска 47-й армии продвинулись на 30–40 километров и завершили окружение ковельской группировки, перерезав дороги Ковель – Брест и Ковель – Любомль.18 марта войска 47-й армии блокировали Ковель. Советское командование, информированное о незначительной численности гарнизона и его составе (полицейские части расценивались как небоеспособные) рассчитывало, что в блокированном гарнизоне царит паника и ликвидацию группировки можно будет провести в течение 2–3 дней. Но к этому времени Гилле смог восстановить пошатнувшуюся было дисциплину и организовать упорную оборону – и это при подавляющем превосходстве советских войск, стремившихся взять город любой ценой.