Непосредственно перед Великой Отечественной войной он передавал в Москву важные сведения. В мае 1941 г. вместе с ценными военно-экономическими данными Леопольд доводит до сведения московских начальников, что немцы выполняют масштабную переброску войск к северной и западной границам СССР. И уже в июне называет точную дату начала войны. Но И. Сталин не поверил этому донесению, как и сообщениям от других разведчиков, сочтя все это британской или немецкой дезинформацией.
В период с 1938 по 1940 г. он руководил обширным звеном «Красной капеллы». Необходимо особо подчеркнуть, что только звеном, поскольку «Красная капелла» представляла собой децентрализованную разведывательную сеть зачастую не связанных между собой групп. В Бельгии и Франции «Красной капеллой» считают именно резидентуры Треппера. Отчасти такая путаница связана с тем, что он часто без согласования с Центром менял клички: то он Отто, то Адам Миклер, то Гран-шеф, то Жан Жильбер.
16 августа 1940 г. по указанию Москвы Треппер отправился во Францию, поставив вместо себя руководителем бельгийской резидентуры А. М. Гуревича (Кент).
В Париже Треппер занимался организацией сопротивления. В ноябре 1942 г. в Париже Леопольда задержала германская контрразведка. Гестапо предложило ему поучаствовать в дезинформационной операции, в ходе которой он должен был продолжать передавать сведения в Москву, но уже под контролем нацистов. Операция именовалась «Большая игра». Находясь под арестом, разведчик с помощью активистов коммунистической партии Франции смог составить и переслать в Центр подробный отчет о провалах резидентуры и о деятельности немцев по дезинформированию советской разведки.
В декабре 1941 г. в Брюсселе Л. Треппер встречался с товарищами по бывшей бельгийской резидентуре. В доме функционировал радиопередатчик, вышедший в эфир более чем на 5 ч. Естественно, его запеленговала немецкая контрразведка. Многих присутствующих на вилле задержали, но Леопольду удалось скрыться.
Рассчитывая не допустить провала разведсетей в Швейцарии и Италии, Треппер согласился участвовать в радиоигре, на что получил одобрение Москвы, организовавшей после его отчета свою радиоигру. Через некоторое время разведчик узнал, что схватили связного французской коммунистической партии и, не дожидаясь, пока до нацистов дойдет информация о переданном им отчете, в сентябре 1943 г. совершил побег и прятался до освобождения Парижа.
Наступивший 1945 г. для Треппера был неудачным, поскольку его вызвали в Москву и арестовали. Несмотря на ожесточенные допросы, он не признался в предательстве. Тогда его обвинили в компрометирующих связях с евреями и в январе 1947 г. приговорили к 15 годам лишения свободы. В мае 1954 г. дело Леопольда пересмотрели, отменив приговор за отсутствием состава преступления.