Деятельность Рейсса в Германии и Австрии была высоко оценена руководством ГРУ. Прибыв в 1927 году в Москву, он был повышен в звании и получил крайне редкий в те времена для разведчиков орден Красного и имени. Тогда же он стал членом ВКП(б).
Через некоторое время Рейсса снова направляют в зарубежную командировку. Проведя несколько месяцев в Чехословакии, где он легендируется, налаживает работу военного аппарата КП Чехословакии и внедряет группы информаторов в военные предприятия, Рейсс отправляется в Голландию, на смену нелегальному резиденту ГРУ Максу Максимову (Фридману). Работа в Голландии была чрезвычайно важна, так как именно эта страна служила основным форпостом СССР для ведения разведывательных операций против Великобритании после разрыва дипломатических отношений с ней в 1927 году. Самым большим успехом Рейсса в это время было привлечение к сотрудничеству местного коммуниста Хана Пика, ставшего одним из лучших агентов-вербовщиков. Именно Пик завербовал в 1935 году капитана Джона Герберта Кинга, служившего в английском МИД шифровальщиком.
В конце 1929 года Рейсс возвращается в Москву и некоторое время работает начальником архивного отдела ГРУ. Возможно также, что одновременно он преподавал в Военной школе, где обучались польские коммунисты. Как один из наиболее профессиональных разведчиков, Рейсс в 1931 году в числе большой группы военных разведчиков переходит на работу из ГРУ в ИНО ОГПУ. Туда же переходит и Вальтер Кривицкий. Это было обусловлено усилением роли ОГПУ в системе советской разведки, а также постоянной нехваткой там высококвалифицированных кадров.
В том же 1931 году Рейсс выехал в свою последнюю заграничную командировку с паспортом гражданина Чехословакии Германа Эберхарда, коммерсанта. Сначала он обосновался в Берлине, а после прихода к власти Гитлера перебрался в Париж, где вместе с другими нелегалами (Б. Базаровым, Ф. Парпаровым, В. Зарубиным, Т. Мал-ли) занимался сбором информации о планах фашистской Германии. У него имелись информаторы и в Генштабе, и в спецслужбах, и в Имперской канцелярии Третьего рейха, а также в Швейцарии, в Лиге Наций. В конце 1936 года Рейссу стало известно о начавшихся по указанию И.В. Сталина переговорах между торговым представителем СССР в Германии Д. Канделаки и имперским советником по экономике Я. Шахтом. В январе 1937 года к Рейссу поступила информация о том, что на переговорах вырабатывается проект советско-германского соглашения. Не было для него секретом и то, что в Москве идут аресты старых большевиков и членов зарубежных компартий, что новое руководство НКВД во главе с Н.И. Ежовым перетряхивает кадры старого ОГПУ, что началась чистка зарубежных резидентур. Под различными предлогами резиденты и наиболее информированные сотрудники резидентур отзывались в СССР и бесследно исчезали. Самому Рейссу также неоднократно предписывалось прибыть в Москву «для назначения резидентом в США». В феврале 1937 года вернувшаяся из поездки в СССР его жена Элизабет сообщила о советах друзей ни в коем случае не возвращаться в Москву. Рейсс понял, что его разрыв со сталинским режимом становится неизбежным.