Наибольшее беспокойство для начальника абвера представляла советская разведка со всеми ее тайными структурами, которые за три года войны Германии против СССР неоднократно подвергались различным реорганизациям. В состав советских разведывательных органов входило Главное управление государственной безопасности НКВД. В советских войсках и партизанских отрядах действовала советская контрразведка Смерш. Канарис знал, что организация «Смерть шпионам» ведет непосредственную борьбу против его разведчиков и агентов. Эта борьба носила профессионально-технический характер. Она доставляла Канарису и удовлетворение, и много забот. Победы в этой борьбе доставались сильнейшим, а потери были неизбежны, как и на переднем крае.
Основной разведывательной структурой, которая противостояла абверу на Восточном фронте, была советская военная разведка. Зримой линии фронта у абвера и ГРУ не было. Однако Канарис знал, что она существует уже не один год. Абвер начал войну против советской военной разведки еще до нападения Германии на СССР. Эта война носила упорный характер. От результатов невидимых боев на этом интеллектуальном фронте зависели победы и поражения вермахта и Красной Армии. Не зря же считается, что возможности побед на полях будущих сражений предварительно определяются в генеральных штабах, где оперируют данными о противнике, добытыми, прежде всего, военными разведками. Реальных побед на поле боя добивается та армия, которая имеет надежную военную разведку.
Канарис был убежден в том, что в 1941 — 1942 годах абвер был значительно сильнее советской военной разведки. В 1943 году достижения двух разведывательных служб он оценивал как равные. Поражение немецких войск на Курской дуге, как считал Канарис, стало следствием просчетов штаба Объединенного командования вермахта (ОКХ) и грубой ошибки фельдмаршала Манштейна.
2 августа 1943 года разведка группы армий «Юг» своевременно предупредила германское командование о подготовке советского наступления в районе Харькова и Белгорода. Однако по указанию Манштейна, который после первых боев неправильно оценил обстановку на Курском выступе, группа армий «Юг» перебросила значительную часть своих бронетанковых войск в район реки Донец.
17 июля советские войска Юго-Западного и Южного фронтов перешли в наступление. Этого никто не ожидал. Почти все германские дивизии были выведены из-под Курска и задействованы в боях, развернувшихся на южных направлениях. Когда Манштейн понял свою ошибку, он приказал возвратить танковые дивизии из-под Донбасса, но было поздно.