Родился в с. Устинове Кашинского уезда Тверской губ. Отец — швейцарец, сыровар, эмигрировал из Италии в Россию в 1861 году, мать, как говорил сам Артузов, — «наполовину латышка, наполовину эстонка». В анкетах на вопрос о национальности отвечал: швейцарец или итальянец, считал себя русским. Близкий родственник видного партийного деятеля и чекиста М.С. Кедрова и председателя Петроградского ВРК в 1917 году Н.И. Подвойского (оба были женаты на сестрах матери Артузова). В 1903 году переехал с семьей в Боровичи Новгородской губ. В 1909 году окончил с золотой медалью Новгородскую классическую гимназию, в феврале 1917 года — с отличием металлургический факультет Петроградского политехнического института. В совершенстве владел французским, английским, немецким и польским языками. Работал инженером-проектировщиком в Металлическом бюро выдающегося металлурга профессора В.Е. Грум-Гржимайло в Нижнем Тагиле и Петрограде.
В декабре 1917 года вступил в РСДРП(б). Работал в Управлении по демобилизации армии и флота под фамилией Артузов. С марта по август 1918 года сотрудник ревизионной комиссии Наркомата по военным и морским делам (комиссия Кедрова) в Архангельске и Вологде. Возглавлял партизанский отряд подрывников на Северном фронте. С сентября 1918 года начальник Военно-осведомительного бюро Московского ВО, затем комиссар и начальник активной части отдела военного контроля РВСР.
С января 1919 года на работе в ВЧК — особоуполномоченный, зав. оперативным отделением Особого отдела. В 1921 году помощник начальника Особого отдела, одновременно начальник 12-го специального отделения этого отдела, затем зам. начальника Особого отдела ВЧК-ГПУ РСФСР.
С июля 1922 по ноябрь 1927 года начальник КРО ОГПУ СССР, затем до января 1930 года — 2-й помощник начальника СОУ ОГПУ. Принимал непосредственное участие в разработке и осуществлении многих ответственных операций по борьбе с белым движением и шпионажем, был инициатором, одним из разработчиков и руководителей контрразведывательных операций «Синдикат-2» (1924 год) и «Трест» (1921–1927 годы), завершившихся арестом террориста Б.В. Савинкова и английского разведчика С. Рейли. За поимку Савинкова Артузову была объявлена благодарность советского правительства.
С января 1930 года зам. начальника, с августа 1931 года начальник ИНО ОГПУ, с июля 1931 года член Коллегии ОГПУ. Руководил проведением контрразведывательной операции «Тарантелла», пытался продолжить операцию «Трест». С мая 1934 года зам. начальника Разведывательного управления РККА с одновременным исполнением обязанностей начальника ИНО ОГПУ — ИНО ГУГБ НКВД СССР. В мае 1935 года, оставаясь на основной работе в Разведывательном управлении РККА, был освобожден от должности начальника ИНО ГУГБ НКВД. В январе 1937 освобожден от должности зам. начальника Разведывательного управления РККА и откомандирован в распоряжение НКВД; работал научным сотрудником 8-го отдела ГУГБ НКВД СССР.