Прошло некоторое время. Противник подтянул самоходные орудия и стал бить по артиллерийской батарее. Она приняла бой. По разрыву снарядов Конев понял — сейчас накроют. Приказал расчетам отойти в укрытие. Сам прилег в окоп. Командир батареи немного замешкался, и его сразил осколок. Тогда командующий армией принял на себя управление огнем. В эти минуты в нем как бы жили два человека: командир батареи и полководец. Один из них указывал цели, корректировал огонь. Другой анализировал все увиденное в первые сутки войны. Иван Степанович уяснил главное — чтобы остановить врага, нужно вести активную оборону и, не ожидая полного сосредоточения своих войск, нанести по врагу внезапный контрудар. Более трех суток шли бои. Противник вынужден был отказаться от наступления вдоль магистрали Витебск — Смоленск и приступил к перегруппировке…
10-12 июля на центральном участке советско-германского фронта развернулось грандиозное сражение, вошедшее в историю Отечественной войны как Смоленское. И в том, что в те дни наступление гитлеровцев на Москву захлебнулось, важную роль сыграла 19-я армия, которая, отходя, наносила противнику ощутимые потери. Так же сражались 16-я и 20-я армии Западного фронта — соседи 19-й. И не случайно начальник генерального штаба сухопутных войск Германии генерал Ф. Гальдер записал в своем дневнике: «На участке группы армий „Центр“ создается невыгодная для нас обстановка. Войска несут большие потери…»
В Смоленской оборонительной операции И. С. Конев проявил себя как талантливый военачальник, способный руководить сражениями большого масштаба. 11 сентября Ивану Степановичу присваивается воинское звание генерал-полковника, а на следующий день он назначается командующим войсками Западного фронта. Назначение И. С. Конев принял с благодарностью, но и с ощущением огромной ответственности.
Всего лишь месяц командовал он Западным фронтом. Но в иных условиях такого напряжения не испытывал и за год. Вот где потребовалась полководческая мудрость Ивана Степановича, чтобы, опираясь на выгодные рубежи, построить глубокоэшелонированную оборону и, сдерживая противника, наносить ему возможно большие потери. Особенно трудно было тогда, когда гитлеровцы, начав наступление по плану «Тайфун», прорвали оборону советских войск и, несмотря на героическое сопротивление защитников столицы, захватив ряд городов, вышли в район Вязьмы.
В создавшейся тяжелой обстановке для координации сил обороны Западный и Резервный фронты сливаются. Командование этим огромным объединенным фронтом поручается генералу армии Георгию Константиновичу Жукову. И. С. Конев становится его первым заместителем.