Получив сообщение о проникновении советских войск в глубь территории Пруссии, гауляйтер Эрих Кох отдал приказ об эвакуации гражданского населения. Прусские юнкеры навьючивали повозки, грузились на тракторы и автомашины и бесконечными колоннами двигались по шоссе, ведущим на запад. Поскольку путь уже был перерезан войсками 2-го Белорусского фронта, многотысячные толпы убегавших немцев устремились к морю, загромождая дороги, мосты и затрудняя передвижение войск.
22 января войска маршала Рокоссовского ворвались в Ольштын, заняли железнодорожную станцию и принудили начальника немецкой службы движения бесперебойно принимать эшелоны. Так удалось захватить двадцать два вражеских состава, прибывших из Кенигсберга и других городов. Когда 26 января войска 2-го Белорусского фронта взяли Толькмицко, а 10 февраля овладели Эльблонгом, непрерывно расширяя наступление на запад, немецкие войска, находящиеся в Восточной Пруссии, были обречены. Их оборона была настолько дезорганизована, что сплошь и рядом немецкие штабы не имели представления о том, где проходила линия фронта.
После многодневных ожесточённых боёв 31 января 1945 года войска 3-го Белорусского фронта сомкнули кольцо окружения вокруг Кенигсберга. Первая фаза уничтожения гитлеровцев в Восточной Пруссии была завершена.
18 февраля 1945 года 3-й Белорусский фронт и вся Красная Армия понесли тяжёлую утрату. Во время объезда линии фронта в районе города Мельцак (Пененжно) был смертельно ранен дважды Герой Советского Союза генерал И. Д. Черняховский. Командование 3-м Белорусским фронтом принял маршал Василевский.
На всей территории Восточной Пруссии продолжалась ликвидация отдельных очагов сопротивления фашистов. Начался период весеннего половодья. Войска продвигались вперёд по грязи, через болота, переправлялись через разлившиеся реки, тесня немцев к Вислинскому заливу. Побережье было превращено советской артиллерией и авиацией в сущий ад. Ища спасения, немцы взорвали прибрежную дамбу. Воды залива хлынули па сушу, в большей своей части ещё занятую войсками. Тысячи гитлеровцев, большинство которых составляли раненые, потонули.
Толпы людей с поднятыми руками шли по воде, направляясь к расположению советских войск. На поле боя, протянувшемся вдоль залива, в период с 13 по 29 марта было уничтожено более девяноста трёх тысяч фашистов и свыше сорока шести тысяч взято в плен. Было захвачено шестьсот пять танков и штурмовых орудий, а также около пяти тысяч орудий и миномётов. 4-й и 2-й гитлеровских армий больше не существовало. Восемь вражеских дивизий были оттеснены на Самбийский полуостров, около двадцати — прижаты к Вислинскому заливу, а остальные находились в окружении в Кенигсберге и на узкой Балтийской косе. Остатки недобитых войск в Восточной Пруссии немцы вынуждены были снабжать с воздуха, что в этот период войны было уже делом нелёгким. Все попытки врага вырваться из гигантских котлов остались безуспешными. Красная Армия всё теснее смыкала кольцо, готовясь нанести решающий удар.