Начиная с июля большую часть заключенных московских тюрем эвакуировали из столицы. Сталин боялся, что Москву не удержать. Берия лично отвечал за уничтожение всех важнейших объектов в городе.
Вождь не хотел, чтобы его враги оказались в руках немцев. В страхе, что собственные сограждане повернут оружие против советской власти, Сталин велел Берии уничтожить «наиболее опасных врагов», сидевших в тюрьмах.
16 октября 1941 года по приказу наркома Берии сто тридцать восемь заключенных Бутырской тюрьмы были расстреляны, среди них видные в прошлом чекисты, например начальник личной охраны Ленина Абрам Яковлевич Беленький. 17 октября расстреляли бывшего члена коллегии ВЧК Михаила Сергеевича Кедрова. В июле он был оправдан Военной коллегией Верховного суда, но приказ наркома Берии значил больше, чем вердикт Верховного суда.
28 октября 1941 года были расстреляны Герой Советского Союза генерал-полковник Григорий Михайлович Штерн, дважды Герой Советского Союза генерал-лейтенант авиации Яков Владимирович Смушкевич, генерал-лейтенант авиации Павел Васильевич Рычагов, Герой Советского Союза заместитель наркома обороны и начальник Пятого (разведывательного) управления Красной армии генерал-лейтенант Иван Иосифович Проскуров… Сталин предпочел расстрелять их, а не отправить на фронт.
В разгар войны в НКВД по-прежнему действовали подразделения, которые боролись с остатками «антисоветских политических партий», «правотроцкистского подполья», разрабатывали исключенных из партии по политическим мотивам и семьи репрессированных.
Специальный отдел занимался борьбой с антисоветскими группировками в среде академической, научно-технической, художественной интеллигенции, вел агентурно-оперативную работу среди учащейся молодежи. Имелся также и отдел, который отвечал за борьбу с церковно-сектантской контрреволюцией и ведал выявлением антисоветских групп среди сельскохозяйственной интеллигенции и студентов сельскохозяйственных вузов. И еще один отдел искал авторов контрреволюционных листовок, анонимок и надписей антисоветского содержания…
В критические дни, когда немцы рвались к Москве, Берия получил от Сталина указание попытаться заключить с Гитлером мир путем больших территориальных уступок.
Маршал Жуков рассказывал военному историку Виктору Александровичу Анфилову, что 7 октября 1941 года Сталин приказал ему срочно вылететь в Москву. Сталин был болен, и Жукова повезли в Кунцево. По словам Жукова, Сталин был в смятении после киевской катастрофы.
Маршал вошел в комнату и услышал разговор Сталина и Берии. Сталин, не замечая появления Жукова, продолжал говорить Берии, чтобы тот, используя свою агентуру, прозондировал возможность заключения мира с немцами. По-видимому, не оправившись от киевской катастрофы, Сталин находился в трансе.