В 1924 г. Брандлер, Тальгеймер и их ставленники были исключены из состава ЦК КПГ. В дальнейшем они поддержали Правую оппозицию в ВКП(б), и в 1929 г. они со своими сторонниками были изгнаны из партии, и создали Коммунистическую партию — Оппозиция. Новыми лидерами КПГ стали Рут Фишер и Аркадий Маслов,[96] представители ее ультралевого крыла. Новое руководство проводит тактику создания независимых «красных профсоюзов», однако терпит провал. Малочисленные профсоюзы, ориентированные на КПГ, отрываются от массового профсоюзного движения. Если на конгрессе профсоюзов 1922 г. коммунисты имели 88 своих делегатов, то в 1925 г. их число сократилось до четырех. В прокоммунистическом профсоюзе «Ревпрофоппозиция» в 1932 г. состояло лишь 35 тысяч членов. Наоборот, нацисты в этот период активно создают квазипрофсоюзные организации, многие из которых структурно входят в состав партии. В 1930 г. под давлением левого крыла нацистской партии стартовала общегерманская программа «Национал-социалистических трудовых ячеек» (НСБО), которой в короткие сроки удалось охватить большинство предприятий и сотни тысяч работающих. Левые нацисты старались превратить НСБО в орудие классовой борьбы, однако Гитлер, опасаясь, что партия станет слишком уж радикально социалистической, блокировал попытки трансформировать НСБО в полноценный общенациональный профсоюз.
В 1925 г. разногласия между руководством КПГ и исполкомом Коминтерна привели к отстранению Фишер и Маслова от руководства партией. В 1926 г. они поддержали Объединенную оппозицию в советской ВКП(б), после чего были вместе со своими сторонниками вообще исключены из партии. В мае 1928 года Маслов вместе с Рут Фишер и Гуго Урбансом создали Ленинбунд (Ленинский союз). Основу этой новой коммунистической организации составили левые и ультралевые коммунисты, вычищенные из КПГ стараниями ее нового вождя Эрнста Тельмана, лидера гамбургского восстания 1923 г. Вскоре Ленинбунд раскалывается, превратившись в одну из маленьких коммунистических сект, исповедующую троцкизм.
Новыми лидерами КПГ стали Эрнст Тельман, Герман Реммеле и Хайнц Нойман. Политика коммунистов значительно поправела. В 1928 г. Коминтерн в условиях повсеместного спада рабочего движения переходит к так называемой тактике «третьего периода». Одним из элементов этой тактики была «теория социал-фашизма». Согласно оной между буржуазной демократией (а также и социал-демократией) и фашистской диктатурой нет никакой разницы. В соответствии с ней отвергалось любое сотрудничество компартии и социал-демократов. В Германии эта доктрина нашла наиболее полное выражение, поскольку между социал-демократами и коммунистами отношения были даже не холодными, а открыто враждебными. Компартия в начале 30-х годов все плотнее идейно смыкалась с НСДПА, что способствовало росту ее популярности. На повторных выборах 1932 г. компартия получила наибольший результат на выборах за всю ее историю — 16,9 % голосов, но эсдеки все еще собирали почти вдвое больше голосов.