Когда сгустились вражеские тучи на западной границе, сюда вместе с другими опытными командирами в мае 1941 года был направлен и 38-летний генерал Берзарин. Здесь он командовал 27-й армией Прибалтийского особого военного округа.
С первых залпов фашистских орудий в июне 1941 года до полного разгрома гитлеровской Германии и наших победных салютов в мае 1945-го командарм Н. Э. Берзарин был на переднем крае борьбы за независимость нашей Родины. На первом этапе невероятно трудных боев он умело маневрировал вверенной ему армией, наносил противнику ощутимые удары, сохраняя основные силы армии.
Весной и летом 1944 года наши передовые части в районе Молдавии достигли государственной границы СССР и неудержимо продвигались на запад. Советское командование наметило новое крупное наступление с целью полного освобождения Советской Молдавии с последующим освобождением балканских стран, стонавших под игом фашизма. Эта операция вошла в историю Великой Отечественной войны под названием Ясско-Кишиневской. На юг были стянуты крупные, отлично вооруженные, закаленные в боях соединения, во главе которых стояли опытные командиры. Среди этих соединений в составе 3-го Украинского фронта была и 5-я ударная армия, командующим которой 30 мая 1944 года был назначен генерал-лейтенант Н. Э. Берзарин. В этой наступательной операции с новой силою раскрылся военный талант командарма. Руководимые им войска умело ломали упорное сопротивление противника, окружая и уничтожая его. Воины 5-й ударной армии освободили десятки сел и городов Молдавии, покрыли себя неувядаемой славой. 24-го августа 1944 года армия генерала Н. Э. Берзарина с боями ворвалась в Кишинев. В знак благодарности и в память об этом героическом подвиге именем генерала Берзарина названа одна из улиц молдавской столицы.
После успешного завершения Ясско-Кишиневской операции 5-я ударная армия была переброшена на 1-й Белорусский фронт, которым командовал Маршал Советского Союза Г. К. Жуков. Шестого апреля 1945 года командарму Н. Э. Берзарину было присвоено звание Героя Советского Союза. Через четыре дня он стал генерал-полковником, а за восемь дней до падения столицы фашистской Германии был назначен комендантом и начальником гарнизона Берлина. На новом посту в высшей степени проявились организаторские способности Н. Э. Берзарина, много сделавшего для нормализации жизни города и работавшего совместно с инициативной группой ЦК КП Германии во главе с В. Ульбрихтом.
Родина высоко оценила подвиги командарма Н. Э. Берзарина. За большие заслуги он был награжден тремя орденами Красного Знамени, орденами Суворова I и II степеней, Кутузова I степени, Красной Звезды и многими медалями.