В то же время район Харькова являлся ключом к Донбассу, который к этому времени ещё продолжал оставаться в руках немцев.
На территории белгородско-харьковского плацдарма располагался важнейший экономический и политический центр СССР, крупный узел железных дорог, вторая столица Украины — Харьков, а также ряд других больших городов — Сумы, Белгород, Ахтырка, Лебедин, Богодухов, Чугуев.
Гитлеровское командование заблаговременно подготовило этот плацдарм к длительной и упорной обороне (схема 13).
Достаточно сказать, что на северных подступах к Харькову было до семи оборонительных рубежей и на восточных — три. Райои Харькова с востока прикрывался ещё трудным для преодоления водным рубежом — р. Северный Донец.
Кроме того, непосредственные подступы к Харькову были прикрыты двумя мощными кольцевыми обводами, соединёнными между собой рядом отсечных позиций. Город был подготовлен к ведению упорных уличных боёв. Таким образом, общая глубина заблаговременно подготовленной обороны на харьковском направлении достигала 85–90 км.
Немецкая оборона базировалась на мощных опорных пунктах и узлах сопротивления, в которые были превращены почти все населённые пункты на территории плацдарма.
Наиболее крупными узлами являлись Белгород — северный неприступный бастион Украины, Харьков — замок, запиравший украинские пространства, центральная опорная точка юго-восточного фронта, Томаровка, Борисовка — крупные узлы, преграждавшие нашим войскам пути наступления на Харьков с севера, Краснополье, Сумы, Ахтырка, Богодухов и много других.
Для обороны белгородско-харьковского плацдарма немцы держали крупные силы из состава 4-й танковой армии.
К началу наступления Красной Армии группировка войск противника была следующей: перед Воронежским фронтом оборонялись 88, 75, 68, 57, 255 и 332-я пехотные, 19-я и 6-я танковые дивизии; в резерве в районе Речки (северо-западнее Сумы) располагалась 323-я пехотная дивизия, в районе Тростянец — 7-я танковая дивизия и в районе Головчино-11-я танковая дивизия. Перед Степным фронтом оборонялись 167, 168, 198, 106, 320, 282 и 39-я пехотные дивизии, а также части 6-й танковой дивизии.
Стремясь любой ценой удержать в своих руках белгородско-харьковский плацдарм, немецкое командование перебросило сюда с других участков фронта и из оперативной глубины шесть танковых дивизий (танковые дивизии СС Великая Германия, Мёртвая голова, Райх, Адольф Гитлер и Викинг и 3-ю танковую дивизию), одну моторизованную (10-ю) и одну пехотную (256-ю) дивизии. Помимо этого, с различных участков фронта сюда были переброшены свыше десяти различных отдельных частей и подразделений, строительных батальонов, ремонтных частей специальных подразделений и т. п.