В начале тридцатых Ковальчука направили по партийной мобилизации в органы ОГПУ, и, таким образом, он стал чекистом — одним из «доблестных» представителей организации, являющейся, по словам Дзержинского, «карающим мечом революции». Начав с практиканта экономического отдела, в 1932 году он дослужился до оперуполномоченного экономического управления ОГПУ. Но тут в его карьере произошел досадный сбой, да чего там сбой — почти катастрофа! Каким-то образом начальству стало известно, что молодой и любвеобильный сотрудник ОГПУ Ковальчук использовал одну из конспиративных квартир для встреч со своими любовницами. Конечно, амурные связи грех не ахти какой страшный — это не связь с «троцкистско-зиновьевской оппозицией»! Тем не менее шла очередная кампания по «укреплению партийной дисциплины» или еще что-то в этом роде — короче, делу дали ход с положенными в таких случаях «оргвыводами». Ковальчука перевели из Москвы с понижением в должности на Север — простым уполномоченным отдела охраны Соловецкого лагеря особого назначения. Там-то он и уяснил для себя окончательно ту нехитрую истину, что человек — ничто, «пыль лагерная», а жизнь человеческая не стоит и ломаного гроша…
Летом 1943 года подполковник Ковальчук состоял в должности заместителя начальника Особого отдела контрразведки «Смерш» одной из гвардейских армий, занимающей оборонительные рубежи в районе Белгорода.
Твердой рукой чекиста он лично расстреливал трусов, паникеров и предателей, усердно разоблачал и выявлял вражеских агентов. Тогда же в их отдел с одного из соседних фронтов был переведен для дальнейшего прохождения службы майор Миронов. К счастью, совместная служба Ковальчука с этим «мягкотелым» и «беспринципным» в его понимании майором продолжалась всего месяц…
Майор Миронов.
…А я все никак не мог успокоиться: даже быстрая езда на мотоцикле, которая всегда действовала на меня благотворно, не могла вернуть хорошего настроения. Встреча с этим подлецом всколыхнула неприятные воспоминания годичной давности, которые занозой засели у меня в душе…
С подполковником Ковальчуком мы прослужили вместе около месяца, и за этот короткий период я стал свидетелем по крайней мере трех «расстрельных дел», которые буквально из пальца высосал этот, с позволения сказать, «особист». Хотя подозреваю, таких «дел» в его практике наберется не один десяток. Надо сказать, что я тоже далеко не образец милосердия и гуманизма: еще до войны на службе в «органах» беспощадно карал кулаков, оппозиционеров и прочих врагов народа, социализма и нашего советского строя. Потом, когда началась война, действовать пришлось еще более жестокими методами — один сталинский приказ «Ни шагу назад» обошелся в десятки тысяч расстрелянных своих же солдат. Находясь в заградительных отрядах позади позиций наших войск, я лично не жалел патронов для трусов и паникеров! Глубоко убежден: такая жестокость была вполне оправданна, а то бы драпали до Урала и дальше!