Затем Я. Черняк был направлен на нелегальную работу в Канаду, где создал новую разведывательную сеть, которая давала информацию по атомной бомбе. Из-за предательства шифровальщика легальной резидентуры ГРУ в Оттаве в 1945 году чудом избежал ареста и тайно покинул Канаду на советском судне под видом члена экипажа.
По прибытии в СССР получил советское гражданство и некоторое время служил референтом в ГРУ.
Неоднократно представлялся к высоким правительственным наградам, но ничего не получил из-за того, что не согласился с наказанием резидента ГРУ в Оттаве полковника Заботина. Это же послужило причиной увольнения Черняка из разведки.
В 1950–1969 годах работал переводчиком в ТАСС.
За выдающийся вклад в дело отечественной военной разведки в декабре 1994 года был удостоен звания Героя Российской Федерации.
Теперь можно подвести итог: у советских разведывательных служб — политической и военной — с середины до конца войны в гитлеровской империи не было эффективно действовавшей агентуры, способной добывать и передавать в Москву ценную секретную информацию. Возникает вопрос: откуда в таком случае кремлевское руководство бесперебойно и своевременно получало подробную и достоверную информацию о политических и военных планах Гитлера, состоянии немецкой экономики, новинках германской военной техники, короче говоря, о всех сторонах деятельности фашистского правительства и его спецслужб?
Сейчас на этот вопрос можно дать развернутый ответ. Советская разведка добывала, используя все возможности, такую информацию не в Германии, а в других странах. Много данных поступало из лондонской, вашингтонской и нью-йоркской резидентур. Спецслужбы Великобритании и Соединенных Штатов, особенно во второй половине войны, собирали информацию огромного объема о положении в Германии и планах ее военного и политического руководства. И конечно, в ней содержалось много сведений о ситуации на советско-германском фронте.
Обилие информации в Лондоне и Вашингтоне объяснялось удачной оперативной обстановкой для разведывательных структур западных союзников. Например, английским джеймс бондам в самом начале войны удалось заполучить германские шифры, и в британской столице читали секретную переписку, которая шла по военным и дипломатическим каналам Берлина. А резиденту Управления стратегических служб (так называлась существовавшая во время войны главная шпионская организация США) Аллену Даллесу, обосновавшемуся с 1942 года в Берне, крупно повезло. С ним быстро установили контакт недовольные Гитлером немецкие генералы и старшие офицеры, занимавшие ответственные посты в Верховном командовании вермахта, генеральном штабе сухопутных войск и в Ведомстве военной разведки и контрразведки. Эти добровольные помощники, или, как их называют профессионалы, самоинициативные агенты, составили костяк американской разведывательной сети в нацистской империи. Недавно было документально подтверждено, что со «шпионом номер один Америки» (такое прозвище получил впоследствии Даллес, ставший в 1953 году директором ЦРУ) поддерживал контакт сам шеф абвера адмирал Вильгельм Канарис. В течение двух с небольшим лет американский резидент сумел получить более 2600 документов из сейфов канцелярий руководителя немецкого дипломатического ведомства Иоахима фон Риббентропа, начальника штаба Верховного главнокомандования вооруженных сил Германии генерал-фельдмаршала Вильгельма Кейтеля, заместителя Гитлера по нацистской партии Мартина Бормана, шефа Главного управления Имперской безопасности обергруппенфюрера СС Эрнста Кальтенбруннера и других заправил великогерманского рейха.