В 1896 году Макарову присвоили звание вице-адмирала. В январе 1897 года он подаёт записку морскому министру:
«Полагаю, что при помощи ледокола можно открыть правильные товарные рейсы с рекой Енисей, считаю возможным с ледоколом пройти к Северному полюсу. Дело может иметь и стратегическое значение, дав возможность нам при нужде передвинуть флот в Тихий океан, кратчайшим и безопаснейшим в военном отношении путём…»
Наконец-то средства выделены, и на верфях Ньюкасла под наблюдением Макарова началась постройка ледокола «Ермак». Весной 1899 года «Ермак» прибыл в Кронштадт, а в конце мая вышел в первое полярное плавание. Спустя месяц началась схватка с полярным льдом. За Шпицбергеном «Ермак» вошёл в обширные ледяные поля и двинулся на среднем ходу напрямик, проламывая и раздвигая лёд. Несмотря на повреждения, «Ермак» раскалывает ледяные поля толщиной 3–4 метра, разбивает торосы, оправдывает все ожидания относительно возможности пробиваться сквозь льды. За время прохода всесторонне изучена ледовая обстановка в арктическом районе.
Наступившая зима и суровые морозы заставили вскоре призвать «Ермак» на помощь на Балтике. Крейсер «Громовой», следуя в Кронштадт, задержался в пути, и его сковали льды. На следующий день Макаров пришёл на «Ермаке» на подмогу и выручил «Громовой». Во время этого же похода ледокол освободил из ледового плена 12 пароходов, застрявших в Петербургском порту.
В снежную бурю и шторм броненосец «Генерал-адмирал Апраксин» на полном ходу наскочил на камни возле острова Гогланд. «Ермак» решил всё дело: всю зиму велись спасательные работы. Потребовалась надёжная и быстрая связь. И тут Макаров вспомнил изобретение своего друга, преподавателя Кронштадтских минных классов А. С. Попова. Установленная вскоре радиосвязь впервые в мире связала отдалённые пункты острова Гогланд с материком. Радио не только выручило моряков, но и вскоре спасло жизни десятков рыбаков, унесённых в море на оторвавшейся льдине, на помощь которым вовремя подоспел «Ермак».
В декабре 1899 года Макарова назначили главным командиром Кронштадтского порта и военным губернатором Кронштадта.
С приходом главного командира порта, которому подчинялась эскадра, кронштадтское «болото» ожило. Вице-адмирал Макаров, он же военный губернатор, наперво уделяет внимание флоту и кораблям, офицерам и матросам. Он отвечает за подготовку и выучку эскадры, её боевую готовность. Сразу же он разрабатывает план мобилизации флота, предлагает держать корабли готовыми к войне. Каждый уходивший в дальнее плавание корабль в любую погоду он провожает лично. Отрываясь от «текучки» на берегу, часто внезапно посещает корабли на рейде. Первым делом идёт на матросский камбуз и снимает пробу щей. Когда щи скверные, тут же предлагает командиру и старшему ревизору съесть по полной тарелке…