На другой день произошло сражение при Лубине, где решительность Павла Алексеевича Тучкова спасла русскую армию от бедственного положения. Когда уже близ четырёх часов Тучков геройски выдержал нападение превосходного числом неприятеля, пришел к нему на помощь Коновницын со своею дивизиею. Французы яростно атаковали, но не могли сломить их. Самое упорное сражение продолжалось здесь до позднего вечера, и неприятель не продвинулся ни на шаг вперед. По окончании Лубинской битвы, где Тучков обеспечил отступление русской армии по Московской дороге, Коновницыну поручен был арьергард армии. Простояв ночь на поле сражения, перед рассветом следующего дня он отступил и вошел со своею дивизиею в состав армии, сдав арьергард Платову.
16-го августа, Коновницын был назначен начальником главного арьергарда отступающих русских армий. Прибыв на другой день в Царёво-Займище, Кутузов утвердил назначение его и послал адъютанта сказать Коновницыну, что он помнит то счастливое время, когда за двадцать перед тем лет знавал его юношею в Яссах и уверен, что Коновницын будет удерживать французов в возможном отдалении от русской армии. Издавна благоговея перед Кутузовым, Коновницын отвечал ему, что не даст французам перешагнуть через наш арьергард или проглотить его, и сдержал свое слово. С 17-го до 23-го августа, – день вступления Кутузова на Бородинскую позицию, – Коновницын был в беспрерывном огне, ежедневно выдерживая упорные нападения Мюрата. Тогдашние арьергардные дела его можно уподобить по количеству сражавшихся войск, генеральным битвам восемнадцатого столетия. Ни разу не удавалось Мюрату оттеснить русских прежде времени, назначенного Коновницыным к отступлению. В сих жарких делах Коновницын не потерял ни одного орудия, не бросил ни одной повозки и старался не только давать армии спокойно отходить назад, но заботился и о том, чтобы жители окрестных мест успевали увозить свое имущество. Отступление Коновницына представляло величественное и трогательное зрелище: он шёл среди пожаров, со всем народонаселением придорожных селений; отовсюду выезжали под его защиту крестьянские обозы и господские экипажи. Иные из бегущих брели за ним, не смотря на свои раны. Духовенство с иконами и хоругвями, окружённое молящимся народом с непокрытыми и поникшими головами, шло посреди полков Коновницына, стройных, но безмолвных и печальных. Могли ли они равнодушно взирать на пожары, на удалявшийся из домов своих народ, на храмы Божии, разрушаемые несчастием, видя веру отцов своих поруганною, Россию, казавшуюся бессильною? И прекрасен был в то скорбное время Коновницын! Давая в течение дня отчаянный отпор Мюрату, по окончании боя являлся он ангелом-утешителем среди бесчисленного множества смолян и других беглецов, толпившихся вокруг его лагеря. Он не находил достаточно слов для изъявления благодарности солдатам, когда они делили солдатский запас свой с злополучными соотечественниками. 23-го августа была жестокая схватка Мюрата с Коновницыным у Гриднева, в 15 верстах от Бородина. Долго не уступал Коновницын, когда под вечер вице-король Италийский не показался на его правом крыле. Тогда, пользуясь темнотою, отошел он к Колоцкому монастырю. На следующее утро французы вновь атаковали его. При необходимости выиграть несколько часов времени для укрепления Бородинской позиции, Кутузов послал на подкрепление Коновницына 1-й кавалерийский полк Уварова. Коновницын явился к Уварову, как к старшему его в чине. «Пётр Петрович! – отвечал Уваров: – не время считаться старшинством. Вам поручен арьергард, а я прислан Вам на помощь – приказывайте!» Сначала Коновницын оборонялся успешно. Дорохов с Изюмским гусарским полком и казаками опрокинул и истребил три французских эскадрона, но при появлении вице-короля Италийского, как накануне обходившего наше правое крыло, Коновницын принужден был отступать и на отступлении был встречен Кутузовым. Будто любимого сына после долгой разлуки, обнял Кутузов Коновницына. Полки арьергарда вошли в состав своих корпусов и вступили в позицию, открывая взорам неприятеля русскую армию, устроенную в боевой порядок.