После окончания четырех классов городского училища в Москве с 13 до 15 лет Абакумов служил добровольцем- санитаром во 2-й Московской бригаде частей особого назначения (ЧОН). В 1924 году из-за безработицы работал поденщиком, упаковщиком Московского союза промышленной кооперации, стрелком военизированной промышленной охраны ВСНХ СССР.
В 1927 году Виктор Абакумов вступил в ряды ВЛКСМ, а в 1930-м стал членом ВКП(б). Во время кампании по выдвижению рабочих и крестьян в советский аппарат был направлен профсоюзной организацией в систему Наркомторга РСФСР, где показал себя с положительной стороны. И уже в начале 1930 года он назначается заместителем начальника административного отдела торгово-посылочной конторы Наркомата торговли республики и одновременно секретарем ячейки ВЛКСМ. Осенью того же года он был направлен на руководящую комсомольскую работу на штамповочный завод «Пресс», где его вновь избрали секретарем первичной комсомольской ячейки.
С 1931 по 1932 год работал в должности заведующего военным отделом Замоскворецкого райкома комсомола.
В поле зрения кадровиков органов ОГПУ-НКВД Виктор Семенович попал с начала 1930-х годов. К нему присматривались, его изучали и, поняв, что он по своим морально-политическим качествам, общекультурному кругозору и физической подготовке подходит под параметры кандидата в сотрудники ГБ, направили с его согласия практикантом, а потом оперуполномоченным экономического отдела полномочного представителя ОГПУ по Московской области.
В 1933 году — уполномоченный экономического управления ОГПУ, а с 19 июня следующего года — уполномоченный экономического отдела ГУГБ НКВД СССР. С 1934 по 1937 год — оперативный уполномоченный 3-го отделения отдела охраны ГУЛАГа, а в 1937–1938 годы — оперуполномоченный 4-го отдела ГУГБ НКВД СССР, заместитель начальника отделения 4-го отдела 1-го управления НКВД, начальник отделения 2-го отдела ГУГБ НКВД СССР.
Это было время очищения от ежовщины — массовых репрессий в ходе так называемого Большого террора. После прихода к власти в НКВД Л. П. Берии в январе 1938 года Абакумова направили с проверкой состояния социалистической законности в Управление НКВД по Ростовской области. Успешно выполнив свою миссию, Виктор Семенович был назначен начальником этого областного управления.
В феврале 1941 года он уже стал заместителем наркома внутренних дел, а 19 июля комиссар госбезопасности 3-го ранга В. С. Абакумов сменил А. Н. Михеева на должности начальника Управления особых отделов НКВД СССР. С 19 апреля 1943 года по март 1946-го возглавлял Главное управление контрразведки Смерш Наркомата обороны СССР.