По окончании техникума в 1930 году Кузнецов поступил помощником таксатора в земельное управление в Кудымкаре. В 1931 году он восстановился в комсомоле, но в следующем году был вновь исключен — из-за судимости по хозяйственному делу (дело было сфабриковано НКВД). В июне 1932 года он был завербован Коми-Пермяцким окружным отделом ГПУ в качестве внештатного сотрудника — проще говоря, осведомителя (псевдоним «Кулик»). В 1934 году Кузнецов переехал в Свердловск и устроился на работу статистиком в «Свердлес», а затем чертежником на Верх-Исетский заводи, наконец, расцеховщиком конструкторского бюро «Уралмаша». В Сверловском областном управлении НКВД он проходил под кличкой «Ученый». В характеристике на Кузнецова было отмечено: «Находчив и сообразителен, обладает исключительной способностью завязывать необходимые знакомства и быстро ориентироваться в обстановке. Обладает хорошей памятью». В январе 1939-го Кузнецов познакомился с руководящим сотрудником НКВД Михаилом Журавлевым, который через несколько месяцев порекомендовал его начальнику отделения отдела контрразведки НКВД Леониду Райхману как способного агента, блестяще владеющего немецким языком и вообще полиглота. Так Кузнецов оказался в Москве, где и был привлечен к работе в НКВД — здесь заметим, что, по фильму, Штирлиц все-таки агент ГРУ, а не НКВД, то есть военной, а не политической разведки (иначе зачем ему праздновать 23 февраля — День Красной Армии; у чекистов был свой праздник). Сначала он работал секретным спецагентом контрразведки (с окладом кадрового оперуполномоченного) под кодовым именем «Колонист». Официально же Кузнецов, по оперативной легенде, являлся инженером-испытателем авиационного завода Рудольфом Вильгельмовичем Шмидтом.
Он работал по линии контрразведки, занимаясь освещением сотрудников немецкого посольства в Москве. В сентябре 1941 года Кузнецов писал: «Последние три года я, за коротким исключением, провел за границей, объехал все страны Европы, особенно крепко изучал Германию», — в результате этой подготовки и несомненных способностей к языкам Кузнецов получил настолько хорошие знания немецкого, что вполне мог сойти за коренного немца.
Летом 1942 года после соответствующей подготовки Кузнецов был направлен в отряд особого назначения «Победители» под командованием Дмитрия Медведева — фактически диверсионно-разведывательный отряд НКВД. В отряде Кузнецов проходил под именем Николая Васильевича Грачева (то есть, как и у Штирлица (Максим Исаев), у него даже русское имя было «не родным»). Центром деятельности Кузнецова стал город Ровно, где он появился с документами на имя немецкого обер-лейтенанта Пауля Зиберта (он и Штирлиц — кавалеры Железного креста 1-го и 2-го класса). Важнейшими сведениями, которые были им получены, стала информация о планировавшейся германским командованием операции «Цитадель» — наступлении на Курской дуге. Ему же удалось получить сведения о местонахождении Ставки Гитлера «Вервольф» под Винницей, а также информацию о подготовке покушения на глав стран антигитлеровской коалиции во время их встречи в Тегеране.