В 1934–1935 годы — начальник 2-го отдела Экономического управления (ЭУ) ГПУ при СНК Украинской ССР. C 1935 по 1937 год — начальник Криворожского горотдела НКВД, врио начальника, начальник Управления НКВД по Зейской области.
Врио начальника 11-го отделения 5-го отдела ГУГБ НКВД СССР.
С марта по август 1938-го — начальник отделения 2-го управления НКВД СССР, затем с 1938 по 1939 год — заместитель начальника Особого отдела НКВД Северо-Кавказского военного округа, а с 1939 по 1940-й — заместитель начальника Особого отдела НКВД Ленинградского военного округа, с июля 1941 года — начальник Особого отдела НКВД Северо-Западного фронта, с октября 1941-го по октябрь 1943 года — начальник Особого отдела НКВД/УКР Смерш Калининского фронта.
В октябре 1943 года назначен начальником УКР Смерш 1-го Прибалтийского фронта / Прибалтийского военного округа.
С апреля 1947 года — начальник 2-го управления 3-го Главного управления МГБ СССР.
Умер в Москве 29 апреля 1948 года.
С 1 января 1942 года начальник Особого отдела НКВД Калининского фронта старший майор ГБ Н. Г. Ханников специальным сообщением «О настроениях личного состава частей и дивизий в связи с наступлением войск Красной Армии» информировал заместителя начальника Управления особых отделов НКВД СССР комиссара ГБ 3-го ранга тов. Мильштейна. В этом сообщении с чувством удовлетворения сообщал:
«Победоносное наступление частей Красной Армии, блестящие операции по изгнанию немецких захватчиков из целого ряда наших городов вызвали среди личного состава частей и дивизий небывалый патриотический подъем. Командиры, политработники и бойцы горят одним желанием: быстрее разделаться с проклятыми фашистскими извергами и отомстить немецким палачам…
Многочисленные отклики бойцов и командиров на передаваемые по радио сводки Информбюро и на газетные материалы «Правды», «Известий» и «Красной Звезды» отражают воодушевление, радость и еще большую уверенность в своих силах…»
А дальше шли примеры патриотических рассуждений воинов разных должностей и частей. В конце сообщения констатировалось:
«По всем фактам настроений личного состава информированы на месте командование частей и Военный совет фронта.
Выявленный антисоветский элемент, материалов для ареста которого недостаточно, взят в… разработку».
Это была тоже часть большой и важной работы военных контрразведчиков, вместе с армейцами разгромивших под Москвой немецкую группировку армий «Центр», которой не удалось осуществить план «Тайфун».
Работа с внедрением своей агентуры в разведывательные органы противника не затихала на фронтах, как говорится, ни на минуту. Одной из блестяще проведенных операций Управлением контрразведки Смерш 1-го Прибалтийского фронта под руководством Н. Г. Ханникова было целевое направление в Смоленскую диверсионную школу нашего разведчика К. С. Богданова. Бывший командир взвода, младший лейтенант РККА Богданов в августе 1941 года попал в плен, где был завербован сотрудниками абвера, после чего прошел обучение в Смоленской диверсионной школе. После переброски его в советский тыл он добровольно явился с повинной в органы Смерша.