В московские годы Евгений Дмитриевич, всегда отличавшийся огромной работоспособностью, много пишет, хотя не все из написанного успевает напечатать. Из того, что удалось издать, особо надо отметить три книги. Прежде всего, это первый том «Введения в языкознание для востоковедных вузов», фундаментального труда, совмещающего учебник, специально ориентированный на студентов-востоковедов, и изложение последовательной теоретической концепции. В первый том вошли теоретическое введение к предполагавшемуся двухтомнику и разделы, посвященные фонологии и ударению, богато проиллюстрированные материалом значительного числа языков. Затем это две грамматики конкретных языков: та самая «грамматика Плетнера и Поливанова», о которой мы узнали на первом курсе, и китайская грамматика совместно с А. И. Ивановым. Последняя фактически содержит под одной обложкой две книги: Иванов, китаист старой школы, написал учебную грамматику в духе XIX в., а Поливанов подошел к китайскому языку совершенно по-новому. В японской грамматике О. В. Плетнер, знакомый Поливанова со времен Практической восточной академии, наоборот, находился под его сильным влиянием, и обе части близки друг к другу, хотя в некоторых новаторских идеях соавтора и Плетнер не разобрался. Грамматика стала первой у нас, да и в Европе, научной, а не чисто практической грамматикой японского языка. Продолжал Поливанов и публикацию материалов, собранных в Японии.
С «формалистами» Поливанов сумел, как показывают мемуары П. С. Кузнецова, найти общий язык. Но все более влиятельным становилось «новое учение о языке» академика Н. Я. Марра. У Поливанова до 1929 г. не было с ним личных конфликтов, но он не мог принять это учение из-за недоказанности его положений, противоречий фактам и просто недостаточного профессионализма в области лингвистики академика и его адептов. В его институте марризм не принимали многие, но только революционер по биографии и по духу Поливанов решился вызвать академика на бой публично.
4 февраля 1929 г. в Коммунистической академии состоялся публичный диспут с докладом Поливанова против Марра, его обсуждение заняло еще два заседания. Сам Марр, правда, находился за границей и в диспуте не участвовал. Однако из Ленинграда приехала целая бригада его сотрудников во главе с будущим его преемником И. И. Мещаниновым. Из москвичей выступали герои двух других моих очерков Н. Ф. Яковлев и Р. О. Шор, ближайший сотрудник Яковлева Л. И. Жирков, а также русист старой школы Г. А. Ильинский. Председательствовал В. М. Фриче, в том же месяце ставший одним из первых академиков-коммунистов.