Шернер познакомился с Гитлером в 1920 году и, как он сам говорил, «был одним из первых германских офицеров, примкнувших к национал-социалистскому движению еще в период его зарождения». Шернер был убежденный враг коммунизма и заявил: «Мои враги – это большевики!» Всюду, где только была возможность, он с оружием в руках выступал против коммунистов, в частности в 1919 году он принимал участие в ликвидации Баварской советской республики, а также в подавлении революционного движения в Рейнской области.
За действия в захватнических походах в страны Европы Шернер был награжден Рыцарским крестом, а в 1944 году – дубовыми листьями к Рыцарскому кресту. В том же году, вспомнив о его давней преданности идеям национал-социализма, Гитлер назначает Шернера на пост начальника штаба по национал-социалистскому воспитанию войск при главном штабе верховного командования сухопутных сил. Однако в появлении рядом человека, занимающегося национал-социалистской проблематикой, усмотрел для себя опасность Борман. Они не поладили, и вскоре Шернер был назначен командующим группы армий «А». Здесь, в районе Крыма и Румынии, Шернер также проявил свой, как пишут его начальники и подчиненные, главный тактический и стратегический принцип: любой ценой удерживать позиции.
В июле 1944 года, когда Красная Армия успешно развивала наступательные операции на севере вдоль берега Балтийского моря, Шернер назначается командующим группой армий «Север». Под новый, 1945 год Шернер получает от Гитлера самую высокую награду – бриллианты к дубовым листьям. Насколько это высокая награда, свидетельствует тот факт, что в Германии к концу войны было всего 22 человека, имеющих такую награду, Шернер был двадцать третьим.
Как свидетельствуют сослуживцы Шернера, самой главной чертой его как военачальника, на которой держался его авторитет, была жестокость. Бывший помощник германского военного атташе в Румынии Макс Браун, знавший Шернера на протяжении четверти века, вспоминал:
«Шернер ежедневно разъезжал по какому-либо участку своего фронта, большей частью по тылу. За ним следовал автобус или грузовая машина, служившая для погрузки „преступников“. Все солдаты, обратившие на себя его внимание каким-либо нарушением дисциплины, правил движения на дорогах или имевшие при себе неправильно оформленные документы, немедленно задерживались, и он „по собственным законам“, лично приговаривал их к тяжелым наказаниям, часто к смерти, якобы за трусость перед противником. „Я не нуждаюсь в суде, я сам у себя судья“, – часто говорил Шернер».