В двадцатом году Лев был избран в губернский комитет комсомола. Участвовал в спектаклях театра рабочей молодёжи, мечтал об артистической карьере. В 1921 году перебрался в Москву. О причинах переезда Василевский не написал ни слова. Ограничился бытовыми подробностями московской жизни: полтора года жил в заброшенном магазине. Потом переехал в маленькую, узкую комнату «для прислуги» в бывшей барской квартире. «Это была первая отдельная комната» в его жизни с единственным предметом обстановки – «рваной парусиновой раскладушкой».
В 1927 году Лев Василевский вступил в ВКП (б). Мечтал о подвигах и «романтических далях», и, как оказалось, не напрасно: «Нас, группу молодых коммунистов, работавших на московских предприятиях, вызвали в Сокольнический райком партии и предложили перейти на службу в Объединённое государственное политическое управление – ОГПУ. Не колеблясь, все мы с радостью приняли это предложение».
Весной 1927 года Василевского направили в Батуми, «столицу Аджаристана». В сборнике автобиографических рассказов «Чекистские были» он написал, что в ГПУ республики работал «небольшой дружный интернациональный коллектив»: «Чекисты приняли меня в свою среду, и спустя несколько дней я уже чувствовал себя равноправным среди них». Именно там Василевский оказался в «команде» Всеволода Николаевича Меркулова, который в то время был заместителем председателя ГПУ Аджаристана, возглавляя Секретно-оперативное управление. В «Чекистских былях» Василевский вспоминает о нём как о «Сергее Александровиче». Большего Василевский в память о человеке, которого уважал, сделать не мог, потому что на имя Меркулова, наркома безопасности, которого расстреляли вместе с Берией и другими «заговорщиками» в декабре 1953 года, было наложено «вето».
В рассказе «Диверсия» Василевский дал портретную зарисовку «Сергея Александровича»: «Ему было немногим больше тридцати лет. Высокий, слегка располневший, светлый шатен с коротко подстриженными волосами на начинающей лысеть со лба голове, с глазами слегка навыкате, с чётко очерченными губами и маленькими усиками щёточкой, которые он имел привычку теребить». В этом рассказе Василевский поведал об одной из операций под руководством «Сергея» – Меркулова. В Батуми, на территории нефтеперегонного завода, была совершена диверсия: взорвали цистерны с керосином, готовым к перекачке в танкеры. Диверсию на охраняемом предприятии, производившем экспортную продукцию, могла осуществить только законспирированная вражеская группа.
В операции по разоблачению диверсантов Василевский сыграл важную роль. На встречу с руководителем банды, бывшим казачьим сотником из охраны генерала Шкуро, в Батуми на французском танкере прибыл некий Вересов, эмиссар Братства русской правды (БРП). Бандиты скрывались неподалёку от Батуми, вблизи городка Кобулети. Чекисты задержали Вересова, а вместо него к бандитам отправили Василевского. Именно Меркулов решил, что Василевский – подходящий кандидат для засылки в банду под личиной Вересова. Василевский так описал свою реакцию на неожиданное предложение: «Однако отказываться я не хотел. Партия послала меня служить в органы ГПУ. Риска я не боялся и смерти тоже, опасался только, что не сумею выполнить задание. Честолюбие, желание отличиться, показать себя в опасном деле не позволяло мне отказаться от задания. Ещё подумают, что я трус! К тому же я доверял старшим товарищам: уж если заместитель председателя ГПУ решил, что я подхожу к намеченной им роли, он лучше знает, какому риску подвергает своего подчинённого».