В 1872 г. визит в Берлин императора Франца-Иосифа ускорил развитие событий. Александр II в тот момент также находился в Берлине, поставив Вильгельма I в известность о своем желании принять участие в беседах двух императоров. Бисмарк поддержал эту непредвиденную инициативу, и Александр II был тепло встречен собеседниками. Если этот визит носил характер демонстративного проявления дружеских чувств между монархами, их министры иностранных дел обсуждали будущее Европы и в особенности балканский вопрос, бывший главным предметом переговоров между Горчаковым и Андраши, министром иностранных дел Франца-Иосифа, а также между Горчаковым и Бисмарком.
Эти переговоры не увенчались должным успехом, особенно в том, что касалось германской позиции по отношению к России. Горчаков достиг договоренности с Андраши — однако исключительно на уровне устных заверений — касательно сохранения статус-кво на Балканах и невмешательства в дела Османской империи. Но, с другой стороны, Бисмарк обещал Горчакову соблюдать все совместные решения, принятые по Балканам Австрией и Россией. В то же время он гарантировал Андраши поддержку любых мероприятий, предпринятых Веной в балканском регионе… Будучи более или менее в курсе этой двойственности, Александр II решил в своей внешней политике придерживаться того самого курса, которому он следовал с момента вступления на престол: сближению с Веной, дабы в определенной мере контролировать отношения между Веной и Берлином. В 1873 г., впервые после Крымской войны, он отправился с визитом в столицу Австро-Венгерской империи. Несколькими месяцами ранее Вильгельм I, сопровождаемый Бисмарком, был принят в Петербурге, и переговоры закончились подписанием военной конвенции, согласно которой в случае возникновения агрессии со стороны какой-либо европейской державы в отношении одной из подписавших сторон, другая обязалась прийти ей на помощь. Однако текст конвенции не вполне предусматривал решительные действия сторон и гласил, что данные соглашения не направлены против конкретного государства. На самом деле для России опасность представляла Вена, что и объясняет сближение, к которому стремился Александр II. В Вене он приложил все усилия к тому, чтобы убедить императора присоединиться к конвенции, подписанной с Германской империей, но столкнулся с серьезным сопротивлением. Ему удалось добиться лишь того, что в случае опасности должны были состояться переговоры для обсуждения совместных действий по обороне.
В октябре Вильгельм присоединился к этому неконкретному соглашению, положив начало так называемому Союзу трех императоров, вокруг которого подписавшие его царственные особы и их министры подняли большой шум. Этот союз на самом деле маскировал различные и подчас противоположные интересы сторон. Россия и Австрия были прежде всего заинтересованы в Балканах, при этом каждый рассчитывал на то, что союз императоров помешает укреплению другого в регионе, в то же время ища германской поддержки. Германия искала способ воспользоваться соперничеством двух других сторон для того, чтобы обеспечить свои интересы в Европе. В ответ на это Александр II, убежденный, что гарантировал безопасность своей европейской границы, начал продвижение в Азию.