Сильное неприятие у ближайших сотрудников Александра III вызывали земские учреждения, не подчинявшиеся губернатору и вместе с тем обладавшие властными полномочиями. Нередко они вступали в конфликт с местной администрацией и далеко не всегда справлялись с возложенными на них обязанностями. На всеподданнейшем отчете олонецкого губернатора за 1887 г. против того параграфа, где говорилось, что земство «строго держится закона и в действиях своих постоянно идет рука об руку с администрацией», Александр III поставил помету: «Утешительное исключение». По мысли К. П. Победоносцева, следовало «изменить нынешний характер земских учреждений, безответственных, отрешенных от центральной администрации и предоставленных всем случайностям выбора».
В Министерстве внутренних дел подготовили проект, предполагавший включение земств в состав губернской администрации. Он встретил жесткую оппозицию в Государственном совете. Д. А. Толстому пришлось отступить. Тем не менее система местного самоуправления была существенно реформирована. Отредактированный проект земской реформы внес новый министр внутренних дел И. Н. Дурново (Толстой в 1889 г. скончался). В 1890 г. было введено новое Земское положение, утверждавшее фактически сословный принцип выборов в земские органы. Вводилось отдельное представительство от дворянства, чего не было в Положении 1864 г. Крестьянство выбирало только кандидатов в гласные, которых утверждал в должности губернатор. Их численность в земских собраниях существенно сократилась. Губернатор теперь мог в значительно большей мере контролировать деятельность земств: отменять их решения, утверждать в должности руководителей органов местного самоуправления. Это преобразование не принесло ожидавшихся результатов. Новое земство стало даже оппозиционнее по отношению к действующей власти. Поместное дворянство, теперь доминировавшее в земских собраниях, не могло быть надежным партнером для правительства. Оно было слишком обижено на петербургскую бюрократию, не очень-то считавшуюся с его интересами еще в ходе крестьянской реформы 1861 г. К тому же жесткие правовые рамки, установленные для земства, провоцировали новые конфликты органов местного самоуправления с губернской администрацией.
Схожие меры были предприняты и в области городского самоуправления (1892 г.). Так, был повышен избирательный ценз, и главы городских управ теперь утверждались правительством. Лишь немногие (около одного процента горожан) могли участвовать в выборах органов городского самоуправления, что, правда, повысило их эффективность. Губернаторы же получили дополнительные возможности контролировать городское руководство.