Свою службу Баярд начал, поступив пажом к графу Филиппу де Бож (впоследствии герцогу Сардинскому), а потом к королю Франции Карлу VIII.
На военное поприще Баярд вступил в то время, когда сохранилось лишь звание рыцаря и многие из рыцарских обычаев, но прежнее рыцарское ополчение заменили постоянные войска, частью свои, частью наемные. Рыцарское ополчение набиралось только на случай войны. Именно тогда Франция начала череду войн с Италией, и Баярд до самой смерти «не сходил с коня». Несмотря на то что в этих войнах участвовали такие знаменитые полководцы, как Гонзальв Кордуанский, Педро Наваррский, Добиньи и Монтуазон, имя Баярда также вошло в историю этих войн.
После счастливого поединка со знаменитым бургундским рыцарем Клодом Водрэ Баярд отправился с королем в поход на Неаполь. В частых, почти ежедневных сражениях он проявлял чудеса героизма и всегда отличался высокой честностью. В одном из боев ему удалось взять в плен испанского генерала Алонзо де Майора. За его освобождение по обычаям того времени полагалось получить выкуп, но так как испанец дал честное слово, что не уйдет, пока не пришлют денег, то Баярд приказал освободить генерала от надзора. Но испанец ушел, а вскоре снова попал в плен и, заплатив выкуп, стал рассказывать, что Баярд обошелся с ним очень строго, и всячески клеветал на рыцаря. Тогда Баярд вызвал его на поединок, в котором испанский генерал был убит. Но это был редкий случай, когда поединок Баярд оканчивал смертью противника – его щедрость и великодушие были удивительными.
При Людовике XII Баярд, преследуя разбитого противника, ворвался в Милан, где был взят в плен, но сразу освобожден Людовиком Сфорцой без выкупа в знак уважения к его военным заслугам. Затем Баярд принимал участие в сражении при Наваре и в 1503 году в военных действиях против испанцев в Неаполе. В Италии французам не повезло – Гонзальв Кордуанский заставил их отступать. Они расположились на отдых на берегу речки Гарильяно, через которую был перекинут деревянный мост. Их противники, испанцы, решили наказать французов за такую беспечность. Отряд, в двести кавалеристов, бросился к мосту, чтобы атаковать французов. Первым их заметил Баярд и бросился навстречу противнику. Испанцы шли по трое. Баярд защищал мост в одиночку до тех пор, пока не подоспела помощь. Испанцы никак не могли поверить, что им противостоял всего лишь один человек, а король Франции дал в награду храброму рыцарю надпись на герб: «Один имеет силу целого войска». Такую же славу принесла ему оборона города Венозы. Затем он сражался против генуэзцев (1507) и отличился в бою при Аньеделло (1509).