Во внешней политике молодой император проявил себя агрессивным правителем, жаждущим завоеваний. Иосиф II был одним из инициаторов участия Австрии в первом разделе Речи Посполитой, чему так сопротивлялась Мария Терезия. Кроме того, несмотря на свое восхищение Фридрихом II, император сознавал, что мощное государство, созданное его кумиром, представляет собой главную угрозу гегемонии Габсбургов в Центральной Европе. Для укрепления ведущей роли Австрии среди германских государств Иосиф в конце 70-х гг. задумал обменять южные Нидерланды (ныне Бельгию), оторванные от остальных земель монархии, на Баварию, где как раз скончался курфюрст Максимилиан III. Против этих планов решительно выступил Фридрих II, которому удалось сплотить вокруг себя большинство немецких князей. Тем не менее в
начале 1778 года Иосиф двинул войска в Баварию. Началась «картофельная война», обязанная своим названием тому факту, что противоборствующие стороны избегали крупных сражений, зато успешно уничтожали запасы картофеля и других съестных припасов — на беду баварских крестьян.
Мария Терезия, постаревшая и больная, а потому еще более осторожная, снова выступила против замыслов сына и унизила Иосифа, начав за его спиной мирные переговоры с Фридрихом. По условиям Тешенского мира, подписанного в мае 1779 г., Австрии досталась лишь узкая полоска земли на юго-востоке Баварии, вдоль реки Инн (Innviertel, или «Иннская четверть»). Вдобавок Иосиф II надолго приобрел в Германии репутацию агрессивного и опасного монарха, а Фридрих II, наоборот, славу защитника интересов небольших немецких государств. «Картофельная война» нанесла очередной удар по и без того непрочной конструкции «Священной Римской империи германской нации».
В 80-е гг. Иосиф II продолжил военно-дипломатическое сближение с Россией. Император испытывал симпатию к другой просвещенной государыне, Екатерине II, и полагал, что совместными усилиями Россия и Австрия могут изгнать с Балкан общего врага — османов. Вместе с «Семирамидой севера» Иосиф даже совершил поездку в Крым, откуда русская армия совсем недавно изгнала турок. В 1788 г. союзники начали новую войну против Турции. Проявив в боях личную храбрость, Иосиф, вставший во главе 250-тысячной армии, не сумел, однако, ни взять Белград, ни вообще добиться сколько-нибудь значительных успехов. В ноябре 1788 г. император, подхвативший в болотах под Белградом лихорадку, вернулся в Вену — больной, разочарованный и опустошенный. Война с турками продолжалась ни шатко ни валко до 1790 г., и заканчивать ее (без всяких приобретений для монархии) пришлось уже преемнику Иосифа II. Россия, нанесшая туркам благодаря гению Суворова ряд тяжелых поражений в Причерноморье, пожинала плоды победы, Австрия же вновь была Унижена.