Прибыв в Пекин, адмирал узнал от князя Кудашева, что на юге России уже идет борьба с большевиками под предводительством генералов Алексеева и Корнилова и что необходимо начать создавать вооруженную силу и на Дальнем Востоке в полосе отчуждения Восточно-Китайской железной дороги. Средства для этого имелись в виде ассигнований на содержание Заамурского округа пограничной стражи. Вскоре было оформлено назначение нового правления железной дороги, в состав которого вступил адмирал Колчак.
Он переехал в Харбин, где начал заниматься новым делом. Обстановка была такова, что работа не могла быть продуктивной. В полосе отчуждения уже имелось несколько русских вооруженных отрядов, которые враждовали между собой. В западной части дороги в направлении на Забайкалье действовал отряд хорунжего Семенова, отказавшегося подчиняться Адмиралу Колчаку и действовать совместно с другими отрядами. Попытки Адмирала установить одну общую организацию, сделанные им путем личного обращения к Семенову, были безрезультатны. Возможно было бы объединить отдельные организации, установить снабжение их из одного общего источника. Японцы снабжали и поддерживали отряд Семенова, на обращение к ним Правления железной дороги о выдаче снабжения отряду Семенова через общую организацию японцы через своего военного представителя в Харбине ответили отказом. Адмирал Колчак увидел, что ничего сделать нельзя, и отправился в Японию для личных переговоров с японским военным министерством.
Тем временем в России произошли крупные события. Добровольческая армия освободила от большевиков области на юге России. Сибирь была освобождена при содействии чехо-словаков. На Волге, в Самаре, образовалась противубольшевистская власть. Наконец, в Уфе было собрано Государственное Совещание, на котором произошло объединение противубольшевистских правительств и образование Всероссийской Власти с Директорией из пяти лиц. Адмирал Колчак решил ехать через Сибирь и Уральск в Севастополь, где находилась его семья, и где он мог принять участие в борьбе с большевиками в рядах Черноморского флота.
Доехав до Омска, он был там задержан директорией, сделавшей ему предложение принять участие в ее работе в качестве Военного и Морского Министра Всероссийского Правительства. Новому правительству необходимо было привлечь в свой состав человека, пользующегося всеобщей известностью, безупречной честности и высокого патриотизма.
Адмирал сначала отказался вследствие недостаточного знакомства с деталями сухопутного военного дела, но за тем, по настоянию местных деятелей дал свое согласие, считая долгом патриота работать для восстановления национальной России.