Отступая к Смоленску на соединение с 1-й Западной армией, багратионовские войска одержали несколько побед в столкновениях с неприятелем. У селения Мир арьергард под командованием донского атамана М.И. Платова разгромил наголову три вражеских уланских полка. Когда вблизи Могилева у деревни Салтановка французский 26-тысячный корпус под командованием маршала Даву настиг отступавших русских, Багратион атаковал его. Хотя французы занимали выгодную позицию, 23 июля им не пришлось праздновать победу.
Умело маневрируя, Багратион сумел без больших потерь вывести армию к Смоленску. Там 4–6 августа произошло ожесточенное Смоленское сражение, в котором покрыла себя славой русская 27-я пехотная дивизия генерала Неверовского. Командующий армией высоко оценил героизм его солдат и офицеров. Он писал:
«Хотя урон у него и значительный, но нельзя не похвалить храбрости и твердости, с какими его дивизия, совершенно новая, дралась противу чрезмерно превосходящих сил неприятельских… пример такой храбрости ни в коей армии показать нельзя».
Под Смоленском Багратион соединился с армией Барклая-де-Толли и продолжил отступление от государственной границы вплоть до Бородинского поля. На нем он и совершил свой главный, последний подвиг во имя российского Отечества.
С первых дней Отечественной войны 1812 года Багратион выступал за активные действия против выступившего в Русский поход императора французов. Он настаивал на скорейшем генеральном сражении с наполеоновской Великой армией, постоянно конфликтуя с Барклаем-де-Толли, который был для него, как военный министр, старшим начальником. Однако в той ситуации такая битва не могла дать желаемой победы в войне.
Командующий 2-й Западной армией вошел в военную историю еще и как один из инициаторов и организаторов армейского партизанского движения в тылу французов. Именно оно стало одной из главных причин гибели вражеской армии на российских просторах.
Багратион приветствовал назначение М.И. Голенищева-Кутузова главнокомандующим русской действующей армией и его решение наконец-то дать генеральную баталию Наполеону. В Бородинском сражении 2-я Западная армия составила левое крыло построения кутузовских войск. Именно здесь император Наполеон Бонапарт сосредоточил свои главные силы, чтобы прорвать русские позиции.
Полки Багратиона отразили все атаки французских войск в самом начале битвы, хотя понесли огромные потери. Сперва они героически защищали целый день – 24 августа – Шевардинский редут. Его оборона позволила русским укрепить свои позиции, в том числе Курганную высоту (Батарею Раевского) и Семеновские (Багратионовы) флеши. Французы смогли овладеть Шевардинским редутом, когда с этой высоты ушел последний русский солдат.