Работая в Разведупре, Берзин какое-то время, причем весьма продолжительное, был целиком поглощен агентурной деятельностью за рубежом. И неудивительно было то, что он проглядел начало чудовищного вырождения «соседей» — органов НКВД. Он был напрямую связан с Артузовым, Пилляром и другими «зарубежниками» НКВД, но и они не сразу диагностировали гибельные метастазы рака, охватившие зараженные сталинщиной органы внутренних дел.
Днем и ночью гремела неслышная на воле пальба в подвалах Лубянки. Гремела пальба и в подвалах здания Военной коллегии Верховного суда на улице 25-го Октября. Трупов было столько, что скоро многие из них еще теплыми, с незасохшей кровью перевозили, порой в фургонах с надписью «Мясо», в неостывающий крематорий при Донском монастыре, на Калитниковское кладбище.
1937 и 1938-й были годами истребления цвета революции, цвета партии и Красной Армии. В то же время шло и истребление ленинской гвардии латышского народа. В СССР тогда проживало около 200 тыс. латышей. Многие из них были красными стрелками в отборных полках революционных войск, заслуги которых не раз отмечал В. И. Ленин. Среди них было немало героев, награжденных первым советским орденом Красного Знамени. Среди них была Берзиновская когорта разведчиков. Более трети из них были расстреляны, умерли в ГУЛАГе и тюрьмах, обвиненные в принадлежности к «Центру латышской фашистско-шпионской организации».
29 июля 1938 года по приговору Военной коллегии Верховного суда СССР Ян Карлович Берзин был признан виновным в том, что «являлся членом руководящего центра латышской националистической организации» и одновременно участником «антисоветского военного заговора» в Наркомате обороны СССР, и приговорен к высшей мере наказания — расстрелу. В тот же день приговор был приведен в исполнение.
29 июля Ян Берзин шел на свой последний «треф» — так называли агентурные разведчики Старика тайные встречи, свидания на явочных квартирах и в других условленных местах за кордоном. Но это был особый «треф»: Берзин шел в подвал дома на Лубянке на свидание со смертью.
Гулко гремит винтовая железная лестница. Его ведут два палача из спецкоманды. Вот и специально оборудованный для тайной казни низкий каменный мешок без окон и дверей. Стосвечовая голая лампа в серой решетке, бетонный пол с кровостоками, ведущими по чуть пологому полу к зарешеченной дыре, стены, завешанные толстыми и плотными веревочными матами с рыжими пятнами и полосками на уровне головы — кровавые нимбы расстрелянных. И кровостоки, и решетки тоже рыжие от потоков крови. Запах аммиака, дезинфекции, как в сортире. Сбоку — рукомойник с одним краном, наверное, для палача.