После этого Хохлов прошел серьезную подготовку. Он основательно изучил немецкий язык, выезжая в лагерь для военнопленных под Красноярском, а в апреле 1943 года провел там целый месяц, выдавая себя за лейтенанта немецкой армии. В августе 1943 года он с документами на имя обер-лейтенанта Отто Витгенштейна вместе с агентом НКВД Карлом Кляйнюнгом был заброшен в Белоруссию к партизанам и вскоре принял участие в организации убийства гауляйтера Вильгельма фон Кубе. Восемнадцатого сентября 1943 года Кубе был убит в собственной кровати взрывом магнитной бомбы, помещенной в изголовье Еленой Мазаник, работавшей горничной в его доме и получившей мину от Марии Осиповой, выполнявшей роль связной с непосредственным руководителем операции Н.П. Федоровым. За эту операцию обе женщины были удостоены звания Героя Советского Союза, Н. Федоров — ордена Ленина, а Хохлов и его напарник — ордена Отечественной войны I степени.[26]
После этого Хохлов до октября 1944 года воевал в лесах Белоруссии, а затем был отозван в Москву. Отныне ему предстояло выполнять специальные задания за границей. В мае 1945 года он с документами на имя гражданина Польши Станислава Левандовского был нелегально заброшен в Бухарест для вживания в образ европейца. Вживание затянулось, и Хохлов закрутил роман с румынкой Эмилией, на которой в скором времени женился без санкции начальства. Свержение румынского короля Михая и установление в Румынии коммунистической диктатуры вызвало в его сознании некоторые подвижки, и 28 сентября 1949 года он пишет Судоплатову рапорт об отставке. Через две недели Хохлова отзывают из Бухареста, где остается его молодая жена. В Москве он объявляет начальству, что желает продолжить образование и поэтому ему придется уйти из разведки. Судоплатов категорически возражал, но в конце концов был достигнут компромисс — Хохлов поступает в МГУ, но становится штатным сотрудником МГБ в звании старшего лейтенанта.
Тогда же, в 1949 году, выяснилось еще одно скандальное обстоятельство: Хохлов выбыл из комсомола из-за неуплаты членских взносов. Сам он объясняет это так:
«Комсомольцем я стал в школе в 1938 году и долгое время был горд своей принадлежностью к нему. В Румынии же незаметно для себя я перестал заботиться о своих комсомольских делах».
Однако Судоплатов обвинил в невнимательности к комсомольским делам Хохлова майора Коваленко. В ЦК комсомола было послано специальное письмо за подписью министра госбезопасности В. Абакумова, и в начале 1950 года Хохлова восстановили в комсомоле.
Весной 1951 года Хохлова направляют в Австрию с подлинным паспортом на имя австрийского гражданина Йозефа Хофбауэра с заданием подготовить «крышу» для нелегальных сотрудников Бюро № 1. По утверждению Хохлова, он специально провалил это задание. Дело в том, что в 1950 году он женился на своей бывшей однокласснице Янине, которая по религиозным соображениям тяготилась службой мужа. Однако, анализируя обстоятельства провала, в Центре пришли к выводу, что в неудаче виновата австрийская полиция, и Хохлов продолжал служить в органах МГБ.