В декабре 1917 года Ленин подписал постановление Сов-наркома о создании ВЧК. В группу по ее организации вместе с Дзержинским, Ксенофонтовым, Ильиным и Петерсом он включил и Яковлева. А в январе 1918 года Яковлев вопреки своей воле должен был выступить против того, ради чего пошел в революцию. Пятого января открылось заседание Учредительного собрания, которого он ждал с особым нетерпением. Именно оно было главной целью революции. Об этом говорили и большевики сразу после октябрьского переворота. Учредительное собрание должно было разработать и принять Конституцию России, определить ее государственное устройство и общественный строй. Двадцать пятого ноября состоялись выборы, победу в них одержали эсеры. Пятого января лидер эсеров Виктор Михайлович Чернов был избран председателем Учредительного собрания.
С юридической точки зрения сразу же после открытия Учредительного собрания все полномочия от ВЦИКа должны были перейти к нему. Большевики воспротивились этому.
А когда Учредительное собрание не утвердило их декреты, Ленин распорядился разогнать его. Электрический свет в Таврическом дворце он поручил отключить Яковлеву. У Ленина была великолепная память, он хорошо помнил о том, что в Бельгии Яковлев работал электриком. Яковлев выполнил поручение, но все, к чему он стремился в революции, для него рухнуло.
Он не покидал Петрограда, наблюдая за развитием событий. Как вести себя дальше, к какому берегу примкнуть, Яковлев еще не решил. Но то, что делали большевики, начало вызывать страх. Все оппозиционные газеты были закрыты на второй день после октябрьского переворота. Отпечатанные тиражи сжигались во дворах типографий. Были запрещены митинги и собрания несогласных. После создания ВЧК начались аресты и первые, пока еще тайные, расстрелы. Разгон Учредительного собрания означал окончательный захват власти в стране одной партией. Ни о какой демократии, и тем более, о правах человека в России, уже не могло быть речи. Он думал, что после революции жизнь народа будет определять избранное народом Учредительное собрание, а его делегатов выгнали из Таврического дворца как надоевших бродяг.
В конце марта, вскоре после переезда советского правительства из Петрограда в Москву, Яковлева вызвали в Кремль на совещание, которое проводил Троцкий. Кроме Троцкого на нем присутствовали Луначарский, Менжинский, Познер, Лашевич, Урицкий, Каменев, Зиновьев, Бонч-Бруевич, Крыленко и еще несколько человек. Яковлев удивился, потому что не ожидал увидеть себя в такой компании. Здесь были все руководители большевиков за исключением Ленина и Свердлова. Яковлев сел за стол, раздираемый любопытством. Ему хотелось знать, для чего он потребовался этим людям. Его уже давно никуда не вызывали, и временами Яковлеву даже казалось, что о нем забыли. Те, у кого он спрашивал, уклончиво отвечали: