Член РСДРП(б) с марта 1917.
В июне - декабре 1917 служил в армии техником-практикантом гидротехнической партии на Румынском фронте. В 1918-1920 работал в секретариате Бакинского Совета, конторщиком на заводе "Каспийского товарищества", служащим Бакинской таможни. В апреле - мае 1920 уполномоченный регистрационного отдела Кавказского фронта при РВС 11-й армии, затем на подпольной работе в Грузии. В июне 1920 был арестован грузинскими властями и выслан в Азербайджан. В августе - октябре 1920 управляющий делами ЦК КП(б) Азербайджана. В октябре 1920 - феврале 1921 ответственный секретарь Чрезвычайной комиссии по экспроприации буржуазии и улучшению быта рабочих в Баку.
В 1921-1922 заместитель начальника, а затем начальник секретно-оперативного отдела и одновременно заместитель председателя Азербайджанской ЧК. В 1922-1924 начальник секретно-оперативной части и заместитель председателя Грузинской ЧК. В 1924-1927 начальник секретно-политического отдела полномочного представительства ОГПУ в ЗСФСР. В декабре 1926 - марте 1931 председатель ГПУ Грузинской ССР и заместитель председателя ГПУ ЗСФСР. В марте - ноябре 1931 председатель Закавказского ГПУ и представитель ОГПУ СССР в ЗСФСР. В октябре 1931 - августе 1938 первый секретарь ЦК КП(б) Грузии. Одновременно с ноября 1931 второй, а в октябре 1932 - апреле 1937 первый секретарь Закавказского крайкома ВКП(б).
С 1938 в НКВД СССР: первый заместитель наркома (август - ноябрь 1938) и одновременно начальник Главного управления госбезопасности (сентябрь-декабрь 1938).
В ноябре 1938 - декабре 1945 нарком (министр) внутренних дел СССР.
В феврале 1941 - марте 1953 заместитель председателя СНК (СМ) СССР. Одновременно в июне 1941 - мае 1944 член, а в мае 1944 - сентябре 1945 заместитель председателя ГКО СССР. В августе 1945 - марте 1953 председатель Специального комитета при ГКО (СНК, СМ СССР).
В марте - июне 1953 первый заместитель председателя СМ СССР.
В марте - июне 1953 министр внутренних дел СССР.
Генеральный комиссар государственной безопасности (1941). Маршал Советского Союза (1945).
Герой Социалистического Труда (1943). Лауреат Сталинской премии (1949).
Член ЦК партии в феврале 1934 - июле 1953. Член Политбюро (Президиума) ЦК в марте 1946 - июле 1953, кандидат в марте 1939 - марте 1946. Член ЦИК СССР в 1935-1938. Депутат ВС СССР в 1937-1953. Член Президиума ВС СССР в январе 1938 - мае 1939.
Арестован 26 июня 1953 на заседании Президиума ЦК КПСС. На июльском (1953) пленуме ЦК КПСС выведен из Президиума ЦК и ЦК КПСС и исключен из партии. Был обвинен в связях с английской разведкой и в стремлении к "ликвидации Советского рабоче-крестьянского строя, реставрации капитализма и восстановлению господства буржуазии". Расстрелян по приговору Специального судебного присутствия Верховного суда СССР.