Эту должность Сталин предложил занять начальнику ИНО ОГПУ. До апреля 1934 года Артузов всего лишь три раза был на приеме у Сталина. Особенно поднялись ставки Артура Христиановича после обсуждения возможных перспектив советско-польских отношений. Дипломаты и представители Коминтерна считали, что Польша уже готова к сближению с Советским Союзом. Лишь начальник внешней разведки говорил об ином развитии событий, скорее всего, польское руководство пойдет на заключение сепаратного мира с фашистской Германией. Дальнейшие события лишь подтвердили это мнение.
19 апреля 1934 года Артур Христианович был вызван в Кремль, где состоялась обстоятельная беседа, длившаяся более двух часов. В сталинском кабинете, кроме Артузова, присутствовали М.И. Гай (начальник ОО ОГПУ), Г.Г. Ягода (заместитель председателя ОГПУ) и Я.К. Берзин (начальник 4-го Управления Штаба РККА). В разговоре также приняли участие Ворошилов и Молотов. Один из вопросов повестки — возможный переход начальника ИНО ОГПУ в военную разведку.
Артузов не желал переходить в военное ведомство. Будучи хорошо осведомлен о непростых взаимоотношениях между военными и чекистами, он отлично понимал, что его приход в Наркомат обороны не будет встречен «долгими и продолжительными аплодисментами». Да и новый пост 1-го заместителя начальника Разведупра РККА не сулил особенных перспектив для дальнейшего продвижения по служебной лестнице. Однако, несмотря на все эти обстоятельства, Артузов все же дал свое согласие на перевод.
Несомненно, определенную роль сыграло его зыбкое положение в ОГПУ. К тому времени Ягоды окончательно утвердился в желании при первой же удобной возможности избавиться от столь ненадежного сотрудника, каким в его глазах был Артузов. Настаивал на переходе в РУ РККА и сам вождь народов. И Артузов дал свое согласие.
26 мая 1934 года было принято постановление Политбюро ЦК ВКП(б) «Вопросы 4-го Управления». В этом документе руководству НКО СССР предлагалось «…устранить недостатки, приведшие к серьезным промахам в агентурной работе», а также в кратчайший срок создать специальную школу для подготовки специалистов по вопросам военной разведки, усилить руководящий аппарат Разведупра новыми сотрудниками («…наиболее стойкими, проверенными работниками»), добиться переноса центра тяжести в работе военной разведки в Польшу, Германию, Финляндию, Румынию, Японию, Англию, Маньчжурию и Китай. Этим постановлением были оглашены и кадровые перестановки в Разведупре. Так Артузов был назначен по совместительству с занимаемой должностью в ОГПУ 1-м заместителем начальника военной разведки. Отныне он две трети своего времени должен был отдавать работе в 4-м Управлении