Вскоре начались преследования неугодных Гитлеру видных военачальников.
Подал в отставку военный министр Бломберг. Люди из окружения Гиммлера подсунули вдовцу молодую красивую женщину. Министр женился на ней. На свадьбе был сам фюрер.
Но вскоре выяснилось, что молодая жена военного министра числилась в полиции как девица легкого поведения, долгое время занимающаяся проституцией. Разразился скандал. Бломбергу ничего не осталось, как уйти со своего поста.
Потом Гитлер снял командующего сухопутными силами Вернера фон Фриче. Фриче тоже был обвинен в «моральном разложении», в гомосексуализме. Подставной свидетель «узнал» в нем человека, с которым сожительствовал.
Последняя история вызвала крайнее возмущение многих высших офицеров. Фон Фриче пользовался авторитетом в армии. Остер боготворил его. Вместе со своими единомышленниками — военными юристами Остер добился офицерского суда чести.
Суд без труда развеял ложные обвинения, возведенные на главнокомандующего. Уличенный в лжесвидетельстве, человек, которого подставили люди Гиммлера, вынужден был признаться, что он сожительствовал не с генералом, а с каким-то капитаном фон Фриче.
Генерала Фриче оправдали. Но Гитлер заявил, что это дело получило слишком большую огласку и он не может оставить его на должности главнокомандующего.
Когда началась война с Польшей, Фриче попросился на фронт. Люди из ближайшего к нему окружения говорили, что генерал искал смерти на поле боя и потому погиб.
История с Фриче, его гибель поставили Остера в ряды непримиримых противников Гитлера.
На этой почве уже тогда сложилась группа единомышленников: начальник Остера адмирал Канарис, начальник генерального штаба сухопутных сил генерал-полковник Людвиг фон Бек и прокурор Гамбурга Ганс фон Донаньи.
От Донаньи Остеру стало известно о беззакониях, которые творились в Германии в борьбе с инакомыслящими, об изощренных пытках, применяемых гестаповцами, о концлагерях.
Военные приготовления, а затем захват Австрии, раздел Чехословакии, нападение на Польшу не оставляли никаких сомнений в том, что Гитлер втягивает Германию в новую мировую войну, последствия которой трудно представить.
Любой исход в этой войне не устраивал Остера. Если Германия победит — нацизм укрепится. Если Германия проиграет войну — обозленные противники уничтожат ее как мировую державу раз и навсегда.
Надо было что-то делать!
Остер считал армию единственной силой, которая может свергнуть режим Гитлера. Но армия повинуется приказам генералов.
Генерал-полковник фон Бек мог быть подходящей фигурой, чтобы возглавить новое военное правительство после свержения власти нацистов.