В декабре 1939 года Ефремову было присвоено очередное воинское звание – командарм 2-го ранга.
7 мая 1940 года Президиум Верховного Совета СССР своим Указом ввел генеральские воинские звания для лиц высшего начальствующего состава Красной армии. В соответствии с этим Указом М. Г. Ефремову было присвоено звание генерал-лейтенанта.
Вскоре Ефремов был назначен командующим войсками Северо-Кавказского, а затем Закавказского военного округа.
Июнь 1941 года застал его в должности первого заместителя генерал-инспектора пехоты РККА. 22 июня он подал рапорт наркому обороны Маршалу Советского Союза С. К. Тимошенко с просьбой направить его на фронт в действующую армию в любой должности на любой участок.
Ответа не последовало.
Знал, что многие его боевые товарищи и сослуживцы воюют. Пришло известие, что 14-й корпус, которым командует Даниил Егоров, своей 51-й стрелковой дивизией на судах Дунайской речной флотилии атаковал позиции румынской армии, захватил большие трофеи.
В начале июля, так и не дождавшись ответа на первый свой рапорт, Ефремов подал второй – на имя председателя Государственного Комитета Обороны СССР И. В. Сталина.
В конце июля Ефремова вызвал начальник Генерального штаба Жуков и вручил предписание о назначении его на должность командующего 21-й армией. Поставил задачу: активными действиями сковать силы противника, действующего против фронта 21-й армии, и тем самым ослабить его наступление на Смоленском направлении. Глухая оборона. Наступать осторожно, только ограниченными силами на отдельных направлениях. Жуков предупредил, что соседи у него более слабые. Многие корпуса и дивизии недавно вышли из окружения, приводят себя в порядок.
К тому времени 21-я представляла собой весьма крупное соединение – 20, 28, 63 и 67-й стрелковые корпуса, 25-й механизированный корпус, 50-я и 55-я танковые дивизии, 219-я моторизованная дивизия и 696-й полк ПТО. 162 тысячи человек. Сила. Начальник штаба армии генерал-майор Гордов >{4} доложил обстановку, расположение дивизий. И сразу же поехали на передовую, в войска. Гордов Ефремову понравился: оперативную обстановку знает хорошо, все акценты расставляет точно, недостатки не замасливает, правде в глаза умеет смотреть открыто. Они ехали тогда по пыльной дороге в сторону Рогачева, разговаривали и не знали, что судьба проведет их по одним и тем же дорогам. Что вскоре после гибели Ефремова под Вязьмой Гордов примет 33-ю армию и будет воевать с теми офицерами и солдатами, с которыми Ефремов держал фронт в 1941 году под Наро-Фоминском, а в 1942 года по январскому снегу маршем двинулся на Вязьму. Что сразу после войны его направят на работу в Приволжский военный округ, в Куйбышев, где и прервется его в общем-то блестящая карьера.