В Баку Берию ждала важная должность управляющего делами ЦК КП(б) Азербайджана. Занимаясь партийно-хозяйственными делами, он одновременно учился в бакинском политехническом институте. В апреле 1921 года по предложению Кирова Берия был направлен на службу в органы госбезопасности в качестве заместителя начальника секретно-оперативного отделения ЧК Азербайджана. Уже на первом году для молодого чекиста она могла закончиться плачевно, коллеги по работе обвинили его в превышении полномочий и фальсификации дел. На этот раз вмешательство другого влиятельного члена ЦК ВКП(б) Анастаса Микояна, спасло Берию от наказания. Более того, он получил высокое назначение, стал заместителем председателя ЧК Азербайджан, последующие десять лет прослужил в органах госбезопасности и сделал блестящую карьеру.
После назначения на должность заместителя председателя Закавказской ГПУ Берия без труда подмял под себя ее руководителя – Станислава Реденса. Тот часто заглядывал в стакан и не проходил мимо хорошенькой юбки. Но не это сгубило Реденса, а отсутствие умения колебаться с генеральной линией ЦК ВКП(б) и товарища Сталина, которого в избытке хватало у Берии. Заняв кресло председателя Закавказской ГПУ, он развернулся в полную силу и в короткие сроки выкорчевал последние остатки оппозиции. На Лубянке оценили его работу и ввели в состав коллегии ОГПУ СССР.
Однако одного этого Берии было уже мало. С непомерными амбициями и неукротимой энергией ему стало тесно в кресле главного чекиста Закавказья. Он стал поглядывать на место местного партийного вождя, но на то требовалась воля Сталина. Путь к нему Берия принялся искать через земляков: члена политбюро ЦК ВКП(б) Серго Орджоникидзе и главу совнаркома Республики Абхазии Нестора Лакобу, находившихся на короткой ноге с Вождем.
В 1929 году на озере Рица они подвели перспективного чекиста к Сталину. Но тот не воспринял их протеже. В широченных галифе, худой, нескладный, в пенсне, постоянно сползшем на кончик птичьего носа, Берия выглядел нелепо и не произвел впечатления. Казалось бы, он мог навсегда забыть о дальнейшей карьере, но помог случай. Любимец Вождя Лакоба насмерть разругался с 1-м секретарем Закавказского крайкома ВКП(б) Иваном Орахелашвили. И тогда, чтобы ослабить позиции Орахелашвили, он предпринял еще одну попытку через Сталина пропихнуть Берию на должность 2-го секретаря крайкома. На этот раз Лакоба зашел к Вождю с другой стороны. В октябре 1931 года, когда тот приехал на отдых в Абхазию и остановился на госдаче «Холодная речка», близь Гагры, он вместе с Ворошиловым отправился к нему в гости и прихватил с собой Берию.