В 1863 г. Вена выступила с предложением реформировать Германский союз. Соответствующий проект Франц Иосиф вознамерился лично представить на съезде германских государей — что соответствовало консервативным настроениям самого императора, а кроме того, как полагали в Вене, оставило бы вне игры Бисмарка и прусский кабинет. С Вильгельмом I, добродушным пожилым бородачом, свято верившим в идею монаршей солидарности, Франц Иосиф и его новый министр иностранных дел Иоганн фон Рехберг рассчитывали поладить. Чтобы подчеркнуть значимость ассамблеи князей и важность присутствия на ней короля Пруссий, в качестве посланника к Вильгельму направили саксонского короля. Но Бисмарку не составило труда раскусить план австрийцев, и он употребил весь набор имевшихся в его распоряжении средств, чтобы отговорить своего государя от участия в съезде.
В меморандуме, касавшемся проекта реформы Германского союза, Бисмарк между прочим сообщил германским государям, что «интересы и потребности прусского народа неотделимы и никоим образом не отличны от интересов и потребностей немецкого народа; там, где этот принцип обретет свой истинный смысл и свою истинную значимость, Пруссии никогда не придется опасаться того, что она может быть втянута в политику, противоречащую ее собственным интересам». Это была перчатка, брошенная в лицо Австрии. Германские князья в большинстве своем согласились с предложениями Вены по реформе союза, но заявили, что какие-либо действия в этом направлении будут иметь смысл только после окончательного выяснения позиции Пруссии. Фактически австрийская инициатива была торпедирована.
Вскоре Бисмарку удалось еще раз оставить Австрию с носом. Конфликт разгорелся вокруг двух маленьких герцогств — Шлезвига и Голштинии, расположенных на севере Германии, у датских границ. Дания и Пруссия вступили в спор за эти земли, которые формально находились под юрисдикцией датской
короны, но были населены в основном немцами и входили в Германский союз. Берлину удалось склонить на свою сторону Вену, где считали претендента на голштинский престол принца Аугустенбурга опасным либералом. В возникшем конфликте Пруссия и Австрия выступили единым фронтом, Дания потерпела поражение, а оба герцогства в 1864 г. были оккупированы прусскими и австрийскими войсками — но основные плоды победы пожала Пруссия.
В качестве приманки на встрече с Рехбергом в августе 1864 г. Бисмарк предложил проект долгосрочного австро-прусского альянса, направленного против Франции и Италии. «Железный канцлер» знал больные места австрийцев: Франц Иосиф не переставал грезить о возвращении Ломбардии, а его ненависть к новоиспеченному итальянскому королю Виктору Эммануилу II подогревалась тем фактом, что в ходе объединения Италии младшие ветви Габсбургов, правившие в Тоскане и Модене, лишились своих владений. Австро-прусский блок — прототип союза 1879 года — не возник пятнадцатью годами раньше по причине чрезмерной рискованности этого проекта. Зато Рехбергу его игры с Бисмарком стоили карьеры: в октябре 1864 года министр был уволен.