В 1922 г. Конрад вернулся в Петроград и работал в этом городе до ареста в 1938 г. Одновременно после закрытия Орловского университета уехала туда доучиваться студентка Конрада Наталья Исаевна Фельдман, которая через несколько лет станет его женой. Брак окажется очень удачным: Н. И. Фельдман сама стала видным японистом и много помогала мужу в трудные его годы.
К моменту возвращения Николая Иосифовича в Петроград там почти не осталось японистов: кто умер, как О. О. Розенберг, кто оказался за границей, как Н. А. Невский и С. Г. Елисеев, кто жил далеко, как Е. Д. Поливанов, заброшенный судьбой в Ташкент. Конрад сразу же занимает главное место в этой дисциплине: уже в 1922 г. он стал заведующим двумя японскими кафедрами в университете и учебном Институте востоковедения имени А. С. Енукидзе (в последнем вузе он одно время был и проректором); после создания в 1930 г. академического Института востоковедения он там заведовал японским кабинетом. В 1934 г. он первым среди японистов стал членом-корреспондентом АН СССР.
Все публикации ученого в 20–30-е гг. посвящены Японии, в основном литературе и истории до XIX в., с середины 30-х гг. и языку. Первой его публикацией в Петрограде становится перевод памятника Х в. «Исэ-моногатари» с комментариями к нему. Однако в отличие от ряда других востоковедов он начинает осваивать и культуру «варварской силы», как он еще недавно выражался. Конрад оказался одним из немногих авторов, кто одновременно печатался в двух ведущих тогда изданиях: альманахе «Восток» в Ленинграде и журнале «Новый Восток» в Москве. В альманахе появлялись его переводы, а в «Новом Востоке» в 1923 г. вышла статья «Вопросы японского феодализма». С нее начался переход Конрада к марксизму. У многих интеллигентов, отказавшихся от эмиграции и внутренней эмиграции, в те годы появился интерес к марксизму, безусловно, искренний (принудительное освоение марксизма к 1923–1925 гг. еще было впереди). Особенно марксизм вызывал интерес у ученых, которые, как Конрад, не удовлетворялись изучением фактов и стремились к обобщениям. А Япония совсем не была изучена с марксистских позиций, Конрад здесь был первым, по крайней мере, среди японистов-профессионалов. Если востоковеды старшего поколения уже не могли выйти за пределы привычных с дореволюционных времен методов, то еще молодой и чуткий к веяниям времени Конрад усвоил «социальный заказ» вполне органично. Все его работы тех лет социологичны и опираются на учение о формациях. Это относится к публикациям не только по истории, но и по литературе и даже языку. Уже заголовки его литературоведческих статей тех лет красноречивы: вся японская литература им рассматривалась как «феодальная», «буржуазная», либо «пролетарская». А в книге 1937 г. «Синтаксис японского национального литературного языка» все функционирующие в то время в Японии языковые образования определялись как «классовые языки»: старописьменный язык – «феодальный», современный литературный язык – «буржуазный», деревенские говоры – «крестьянские», городские говоры – «мещанские». Сложности вызвал только «язык японского пролетариата». Признавая, что «в складывающемся пролетарском языке» «ведущую роль играет, безусловно, национальный язык» (т. е. «буржуазный»), он мог лишь говорить о том, что система понятий этого языка «перерабатывается в духе того классового сознания, носителем которого является пролетариат». Направленность исследований Конрада была хорошо видна современникам. Е. Д. Поливанов в рецензии на главный труд Конрада тех лет по литературе «Японская литература в образцах и очерках» (1927) отмечал, что японскую литературу уже изучали в разных аспектах, а теперь ее рассмотрели и в аспекте социологическом. И действительно: сейчас социологический анализ литературы может казаться безнадежно устарелым, но когда-то и он был новым словом.