В январе 1924 г. управление 17-го Приморского стрелкового корпуса было передислоцировано на Украину. Здесь Иван Степанович пробыл недолго. В июне его по личной просьбе перевели в Московский военный округ комиссаром и начальником политического отдела 17-й стрелковой дивизии, расквартированной тогда в Нижнем Новгороде. К новому месту службы он выехал вместе с семьей – женой и годовалой дочкой Майей. Комиссар много внимания уделял решению вопросов, связанных с бытовым обустройством личного состава, установлением взаимоотношений с местным населением, обеспечением качественного выполнения задач боевой и политической подготовки. Здесь же он, как явствует из его автобиографии, вел непримиримую борьбу «против троцкистов» и очищал «от враждебных элементов» дивизию.
В октябре 1925 г. произошло событие, которое коренным образом повлияло на карьеру И. С. Конева. На одном из учений командующий войсками Московского военного округа К. Е. Ворошилов, наблюдавший за действиями дивизии и работой ее комиссара, вызвал к себе Ивана Степановича и сказал:
– Вы, товарищ Конев, по нашим наблюдениям, комиссар с командирской жилкой. Это счастливое сочетание. Вам надо учиться, овладеть всем, что есть в военной науке. Это поможет вам стать хорошим командиром.
Видать, не забыл Клим Ворошилов делегата X съезда Ивана Конева, который, пренебрегая опасностью, вызвался добровольно участвовать в штурме Кронштадта.
Эта беседа стала поворотной точкой в судьбе Конева. В 1926 г. его направляют на Курсы усовершенствования высшего начсостава (КУВНАС) при Военной академии им. М. В. Фрунзе. Они были предназначены для повышения квалификации и совершенствования знаний военных кадров различных родов войск и служб. «С первых же дней пребывания на курсах, – вспоминал Иван Степанович, – с нами прорабатывали тактические задачи в сложной, динамичной обстановке. Знакомили с новой техникой и вооружением… Мы не пропускали ни одной книжной новинки по военной теории».
После окончания учебы И. С. Конев назначается командиром 72-го стрелкового полка 24-й Самаро-Ульяновской Железной стрелковой дивизии, а затем возглавляет 50-й Краснознаменный им. К. Е. Ворошилова стрелковый полк 17-й стрелковой дивизии. На этом завершился этап военной карьеры Конева, связанный с военно-политической работой. Теперь ему предстояло проявить себя уже в новом качестве, на командной стезе. Он, вспоминая о своей пятилетней деятельности в должности командира полка, отмечал:
«…Самым решающим звеном в становлении командира является полк. Полк учит, полк воспитывает, полк по-настоящему готовит кадры. Комполка – организатор боя, он обязан правильно использовать артиллерию, полностью и до отказа дать огонь, а не штык, использовать танки, использовать поддержку саперов и даже авиацию, запросив решения высших инстанций. Он хозяин на поле боя, в организации боя. Вот кто такой командир полка, вот почему я с большим желанием пошел на эту должность. Командовал полком пять лет. Многие говорили, что «засиделся», предлагали всякого рода должности, намекали, иногда даже иронизировали… Я решительно от всего отказывался. Я учил полк и учился у полка. Проводил занятия сам, очень сложные, продолжающиеся непрерывно, днем и ночью, с выходом в поле, с отрывом от базы, учил полк маршам и походам, боевой стрельбе и тактике, взаимодействию, и сам одновременно учился»