В феврале 1937 года отозван в распоряжение ЦК ВКП(б) и по партийному набору направлен на работу в НКВД СССР, где быстро сделал успешную карьеру.
С марта 1937-го по март 1941 года прошел путь от стажера до начальника отделения Контрразведывательного отдела. С марта 1941 года отвечал за оперативное обслуживание немецких представительств в Москве, после начала Великой Отечественной войны — за интернирование немецких дипломатов.
В 1941–1943 годах возглавлял Управление НКВД — НКГБ по Горьковской области. С мая 1943 года являлся наркомом внутренних дел УССР. Принимал активное участие в ликвидации националистического движения на Украине. В 1945 году присвоено воинское звание генерал-лейтенанта.
15 января 1946 года генерал-лейтенант Рясной назначен заместителем наркома внутренних дел Советского Союза. Курировал подразделения по борьбе с бандитизмом и шпионажем, строительство крупнейших гидротехнических сооружений (Волго-Донской канал, Куйбышевская и Сталинградская ГЭС и др.). Одновременно с июня 1947 года являлся членом Бюро по выездам за границу и въездам в СССР Комитета информации при СМ СССР.
С февраля 1952 года — заместитель министра госбезопасности, член Коллегии и начальник Второго главного управления МГБ СССР. В 1952 году на XIX съезде партии избран кандидатом в члены ЦК КПСС.
20 ноября 1952 года введен в состав Комиссии ЦК КПСС по организации Главного разведывательного управления (ГРУ) МГБ СССР.
5 марта 1953 года генерал-лейтенант Василий Степанович Рясной возглавил советскую внешнюю разведку.
Берия, придя после смерти Сталина к руководству МВД, подверг резкой критике деятельность разведки в послевоенные годы и начал энергично заниматься ее перестройкой. По его указанию в Москву на совещание были вызваны резиденты разведки, работавшие в основных европейских странах. Берия поставил перед ними новые конкретные задачи, особое внимание он уделил руководителям представительств госбезопасности в странах народной демократии. Резидентам даже устроили проверку знания иностранных языков: Берия хотел, чтобы они свободно владели языком страны пребывания и могли беседовать с руководителями секретных служб и лидерами государств без переводчиков. В то же время он считал, что советники-чекисты не должны вмешиваться во внутренние дела стран, где они работают, и не должны давать рекомендаций в ситуациях, которые возникают в результате внутренней борьбы в правящих кругах того или иного государства. Ну а главной задачей разведки того периода, согласно указанию Берии, было ведение разведывательной и контрразведывательной работы против капиталистических стран.