С марта 1924 года — заместитель председателя Реввоенсовета СССР и наркома по военным и морским делам, с апреля 1924 — одновременно начальник штаба Красной армии и начальник Военной академии РККА. А с января 1925 года — председатель Реввоенсовета СССР и нарком по военным и морским делам. Под руководством Фрунзе проводилась военная реформа в 1924–1925 годах. Она была направлена на сокращение численности армии, разросшейся в период гражданской войны до более 5 миллионов человек, введение принципа единоначалия, реорганизацию военного аппарата и политуправления РККА. Кроме того, он являлся автором ряда военно-теоретических работ.
Несмотря на то, что Фрунзе был противником Троцкого, Сталин ревниво относился к быстрому карьерному продвижению первого. Кроме того, соратника Ленина беспокоило то, что самые его близкие друзья — Ворошилов и Буденный — все больше сближались с Фрунзе, относясь к нему с почтением. Если в искренности Ворошилова, его заместителя по Реввоенсовету и НКО, можно было несколько сомневаться, то Буденного Михаила Васильевича, как «народного маршала», высоко ценил. Не случайно он числил себя кавалеристом — носил синие петлицы и шпоры на сапогах.
Это было время, когда Троцкого заменил Фрунзе. Но вместе с тем Сталин понимал, что РККА еще не стала послушным орудием в его руках. Армию возглавил человек твердых правил, решительный, смелый, пользовавшийся высоким авторитетом в армии и партии. Во всяком случае, не меньшим, чем генеральный секретарь партии.
Бедой Фрунзе было состояние здоровья, потерянного в тюрьмах и на фронтах гражданской сечи. Он страдал коварной болезнью — язва желудка. Ему нужна была диета, спокойный образ жизни, относительная гиподинамия в ходе обострения болезни. А ему его заместитель каждый раз стал предлагать съездить на охоту или рыбалку. Язва этого не терпит. Начались обострения.
Как писал Владимир Успенский в своей книге «Тайный советник вождя»:
«…Ворошилов каждый свободный день использовал для того, чтобы увлечь «друга Мишу» на охоту, в леса и болота, к похлебке из котелка… которую даже здоровый желудок не всегда выдерживает. К месту будет сказано: такое увлечение охотой было у Клима Ефремовича кратковременным и угасло, едва он лишился партнера».
В сентябре 1925 года Ворошилов уехал с женой в Крым, в Мухалатку, где отдыхал Сталин. Через несколько дней они пригласили Фрунзе к себе. И снова Клим предложил Михаилу поохотиться. Только охота тогда в горах оказалась неудачной. Возвратились на дачу совершенно измотанные, без добычи. Возвращение в Москву для Михаила Васильевича было трагическим. Он не ехал — его везли. Сопровождающая медсестра не позволяла ему вставать с постели. Михаил Васильевич чувствовал себя скверно. Усилились боли в области желудка. Но отдохнувши несколько дней дома, он почувствовал себя лучше и с удивлением узнал, что на 29 октября назначена операция. Он писал жене, оставшейся в Крыму: