Яковлев боролся за утверждение новой науки, ниспровергал старую, не стесняясь в выражениях. Представитель старой, традиционной школы Г. А. Ильинский жаловался в 1930 г. в письме академику Б. М. Ляпунову: «Один из здешних марровских “молодцов” “кавказовед” Н. Ф. Яковлев… еще в августе напечатал в газете “За коммунистическое просвещение” возмутительную статью, призывая сторонников марксизма и яфетизма сплотиться против индоевропеистов и начать персональную атаку на них как “подкулачников” (!!!)». Тон Яковлева в период коллективизации звучал зловеще. Но Ильинский (славист по специальности) не имел оснований называть одного из крупнейших в мире специалистов по Кавказу «кавказоведом» в кавычках, а научная перспектива тогда была за Яковлевым.
Однако к концу 20-х гг. у него в борьбе за «новую науку» оказался мощный конкурент – академик Н. Я. Марр, все более утверждавший свою монополию. И позиция Николая Феофановича оказалась противоречивой. Дело было не только в административном давлении: Яковлев умел бывать независимым и стойким. Но он (в отличие от другого «красного профессора» Е. Д. Поливанова) оказался подвержен притягательному мифу марровского «нового учения».
Еще в 1922 г., когда Марр не объявлял себя марксистом, Н. Трубецкой писал из Вены Р. Якобсону в Прагу: «Я написал длиннейшее письмо Яковлеву, но ответа не получил… Боюсь, не обиделся ли он, т. к. я очень резко отозвался о Марре и упрекал Яковлева за увлечение Марром». В другом письме тому же адресату от 1924 г. Трубецкой писал, что хочет Яковлева «еще раз попытаться оттащить от Марра».
Не помогло, хотя нельзя сказать, что Яковлев принимал все идеи Марра: он никогда не умел слепо идти за авторитетами. Наиболее независим он был в областях своих основных занятий: в фонологии и языковом строительстве. Вмешательства Марра и его последователей – «подмарков», как тогда говорили (И. К. Кусикьян, Б. М. Гранде, И. Д. Дмитриев-Кельда), в языковое строительство были крайне некомпетентными, и Яковлеву приходилось все время с ними бороться. Ситуация осложнялась тем, что Марр еще до революции придумал транскрипцию для передачи сложной абхазской фонетики и посчитал ее в 20-е гг. «прообразом всемирного алфавита», марристы потребовали ее внедрения для каждого языка народов СССР. Марр не только не знал фонологии, но даже не понимал разницы между научной транскрипцией и практическим алфавитом. Его транскрипция, стремившаяся передать с помощью сложных надстрочных и подстрочных знаков самые тонкие оттенки звуков, не имевшие фонологического значения, была крайне трудна; в Абхазии ее ввели в качестве алфавита под влиянием авторитета Марра, но через два года от этого отказались, поскольку освоить новый алфавит не могли даже учителя. В борьбе против этого алфавита Яковлев был последователен и принципиален, и это оказался тот редкий случай, когда марристам пришлось уступить.