После падения Робеспьера Гоша освободили, и в августе 1794 года он возглавил Западную армию, действовавшую против роялистов в Нормандии и Бретани. Прибыв в Шербур, Гош нашел там полностью деморализованную армию и тут же принялся за ее реорганизацию.
Особую популярность генерал Гош получил после разгрома в июле 1795 года состоявшего из англичан и эмигрантов роялистского десанта на полуострове Киберон. Высадка руководилась графами де Пюисси и д’Эрвиллем, непомерные амбиции которых оказались одним из источников будущего краха. Эти два человека постоянно спорили друг с другом и лишь теряли драгоценное время. Генерал Гош во главе 13 тысяч солдат заставил роялистов отступить на полуостров Киберон, где им была подстроена ловушка, из которой никому уже не суждено было вырваться.
«Англичане, эмигранты и шуаны в крысоловке, а я, с несколькими крупными кошками, стою в дверях», — писал Гош Конвенту.
16 июля роялисты осуществили попытку прорыва, но попали под огонь республиканцев. Генерал Гош перешел в контрнаступление и одержал блестящую победу. Те, кто не погиб, были вынуждены капитулировать, лишенные возможности вернуться на корабли, которые не могли приблизиться к берегу из-за сильного волнения на море. Но в те суровые времена пленных брать было не принято. Около 800 уцелевших дворян-роялистов и их приверженцев были расстреляны в ближайших городах Оре и Ване, лишь несколько крестьян было помиловано, чтобы не вызвать возмущений в бретонских деревнях.
В 1796 году генерал Гош возглавил армию, готовившуюся к высадке в Ирландии, но эта экспедиция закончилась, толком и не начавшись, и о ней быстро забыли.
23 февраля 1797 года Гош возглавил знаменитую Самбро-Маасскую армию. Прибыв в Кёльн, новый главнокомандующий активно взялся за реорганизацию вверенных ему войск. Обладая огромной властью, он быстро проявил свои административные таланты. Армия ожила и вновь стала годной для решения самых больших задач. Солдаты обожали Гоша за его отвагу и деловитость. По словам современников, из всех французских генералов того времени у Гоша была «самая длинная сабля и самые короткие речи».
18 апреля армия Гоша перешла через Рейн по Нойвидскому мосту и атаковала австрийскую армию генерала Пауля Края фон Крайова в Гедерсдорфе. Победа Гоша была блестящей: французы захватили несколько тысяч пленных, 7 знамен, 27 орудий и около 60 зарядных ящиков. После этого генерал Гош стал одним из самых популярных генералов Франции. О его армии стали говорить, что она не менее славна, чем Итальянская армия генерала Бонапарта. Самого Гоша назвали Рейнским Бонапартом.