Последняя страница гражданской войны закончилась…
После размещения части беженцев в приграничных поселках Дитерихс во главе "беженских групп" Земской Рати совершил долгий, тяжелый переход от Хунчуна на Гирин и далее к Мукдену. Генералу суждено было снова оказаться в тех местах, где 18 лет назад начиналась его боевая карьера. После этого он вернулся сперва в Харбин, а летом 1923 г. с женой и дочерью переехал в Шанхай. Начался зарубежный период его жизни. Об этом времени известно немного. Архивы практически не сохранились, и немногочисленные документы о его деятельности можно обнаружить с большим трудом. Ясно одно, Михаил Константинович не собирался мириться с "беженским положением" и все свои силы продолжал отдавать делу непримиримой борьбы с большевизмом.
Наибольшую известность получила деятельность Дитерихса на посту Председателя Дальневосточного Отдела Русского Общевоинского Союза (РОВС), а также председателя Урало-Приморской группы Русского Общевоинского Союза (с 24 марта 1930 г.). Этот отдел объединял большинство сохранившихся структур бывшего Восточного фронта Белого движения. Накануне официального образования РОВСа (1 сентября 1924 г.) 6 мая 1924 года Дитерихс предупреждал об опасности использования монархической идеологии в угоду сиюминутной политической конъюнктуре. Нисколько не отрицая необходимости борьбы только под монархическими лозунгами, он заявлял, что в Зарубежье все "ищут объединения не во имя создания однородных идей, не вокруг однородных монархических принципов, а опять-таки вокруг личностей, деятелей", "…все те, кто называет себя ныне монархистами, причисляют себя к таковым не по исповеданию принципов, понятий и религии монархизма, как идеологически мощного, объединяющего массу, общественность, государство – начало, а лишь по форме, по внешним осязаемым материальным проявлением его. При этом форма и внешность обращаются ими в сущность, исчерпывая всю содержимость их монархического чемодана… возрождение в России монархизма является для них только в формально-аксессуарном восстановлении трона, возведении на него того или другого из Романовичей, занятие при троне определенного придворного или административного положения и приведение всех прочих граждан России к "поднози трона" путем тех же чекистских мероприятий, изменив лишь название органов: охранка, жандармерия, гвардия и так далее… Так как, по моему глубокому убеждению, такое движение не будет отвечать интересам историко-национального характера, то я не примкну к нему и, хотя бы оставшись в одиночестве, не откажусь от той присяги, которую принимал во Владивостоке и которая согласована с моим пониманием путей работы по совести на благо народу и его историческому предназначению"