В 1921–1925 гг. Шапошников — первый помощник начальника штаба РККА. В 1924–1925 гг. под руководством М. В. Фрунзе принимал участие в проведении военной реформы, был награжден орденом Красного Знамени. В 1925–1928 гг. командовал войсками Ленинградского и Московского военных округов. В 1928–1931 гг. — начальник штаба РККА. В 1930 г. вступил в ВКП(б). В 1931–1937 гг. — командующий войсками Приволжского военного округа, начальник Военной академии имени Фрунзе, командующий Ленинградским военным округом. С мая 1937-го начальник Генштаба РККА. В мае 1940 г. Шапошникову присвоено воинское звание Маршала Советского Союза.
«Штабная работа должна помогать командиру организовывать бой; штаб — первейший орган, с помощью которого командир проводит в жизнь свои решения…
В современных условиях без четко сколоченного штаба нельзя думать о хорошем управлении войсками». - не раз говорил Шапошников.
Шапошников — один из немногих, кому удалось не только избежать сталинских репрессий, но и — с конца 30-х годов — стать доверенным помощником Сталина по военным вопросам и пользоваться большим уважением вождя. Все это говорит о личности яркой и незаурядной, сложившейся в непростых условиях бурного времени.
Постоянно, целеустремленно и весьма успешно Шапошников работал над вопросами развития военной теории. В 1923 г. издал книгу «Конница», где обобщил опыт боевого применения этого рода войск в Первой мировой и Гражданской войнах. В 1924 г. вышло его военно-историческое исследование о советско-польской кампании 1920 года «На Висле». Участвовал в комиссии по разработке уставов. В 1927–1929 гг. опубликовал фундаментальный труд «Мозг армии» в трех книгах, который был переведен на иностранные языки. Исследование построено на обобщении опыта Первой мировой войны. В нем рассмотрены структура и основные функции Генштаба, его место и задачи в системе Вооруженных сил как в мирное время, так и, главным образом, в условиях войны. Исследован с позиции военной науки вопрос о характере современной войны. Великая Отечественная война 1941–1945 гг. подтвердила правильность основных идей, положений и выводов, сформулированных в труде «Мозг армии».
Постепенно и далеко не сразу Генеральный штаб — важнейший орган управления — обрел присущую ему роль, став рабочим (а по сути — интеллектуальным) органом Ставки.
Под руководством Бориса Михайловича было разработано положение, которым регламентировалась работа фронтовых управлений и управлений Генштаба, что в значительной степени обеспечило надежное выполнение задач Ставки. Шапошников уделял первостепенное внимание совершенствованию стратегического руководства войсками, налаживанию бесперебойного управления во всех звеньях РККА.