В июне 1905 г. Николай Николаевич возглавил сформированный по его предложению Совет государственной обороны, предназначенный для координации высшего военного и морского управления, его согласования с деятельностью других правительственных учреждений. Созданный орган пересмотрел «Положение о полевом управлении войсками», провел разработку нового «Полевого устава», принятого в 1908 г. Одновременно, с октября 1905 г. и до начала Первой мировой войны, Великий князь состоял главнокомандующим войсками Гвардии и Петербургского военного округа. Кроме того, с февраля 1909 г. Николай Николаевич являлся попечителем Офицерского собрания армии и флота.
В июне 1905 г. Великий князь добился выделения Генерального штаба из состава Военного министерства, что устраняло контроль над ним военного министра. По рекомендации Николая Николаевича начальником Генерального штаба был назначен его единомышленник, бывший до этого начальником штаба генерала-инспектора кавалерии генерал от кавалерии Ф. Ф. Палицын. Следует отметить, что, находясь во главе Совета государственной обороны, Великий князь часто превышал свои полномочия и вмешивался в работу военного и морского министров, что, естественно, создавало разнобой в управлении вооруженными силами. В июле 1908 г. Совет государственной обороны указом императора Николая II был упразднен. Именно тогда резко возросло влияние военного министра генерала от кавалерии В. А. Сухомлинова, у которого с Николаем Николаевичем сложились неприязненные отношения.
Великого князя как личность, обладавшую как достоинствами, так и недостатками, очень выразительно охарактеризовал его современник, духовный писатель, автор мемуаров, протопресвитер (главный священник) военного и морского духовенства Георгий Шавельский. «За последнее царствование в России, – вспоминал он, – не было человека, имя которого было бы окружено таким ореолом и который во всей стране, особенно в низших народных слоях, пользовался бы большей известностью и популярностью, чем этот Великий князь. Его популярность была легендарна…
Рассказы близких к великому князю лиц, его бывших сослуживцев и подчиненных, согласно свидетельствуют, что в годы молодости и до женитьбы Великий князь Николай Николаевич отличался большой невыдержанностью, безудержностью, по временам – грубостью и даже жестокостью. […] После же женитьбы […] от прежнего стремительного или, как многие говорили, бешеного характера Великого князя остались лишь быстрота и смелость в принятии самых решительных мер, раз они признавались им нужными для дела…