Гораздо больше затруднений доставили Бисмарку австрийцы. Надеясь на сотрудничество Англии, австрийские политики долго не желали итти на сделку с Россией. Однако в апреле 1880 г. произошло событие, сделавшее Австрию более сговорчивой. Пал кабинет Биконсфильда; на смену ему пришёл Гладстон. Вся избирательная кампания проводилась Гладстоном под лозунгом борьбы против внешней политики Биконсфильда. Гладстон провозглашал обычные либеральные лозунги: «европейский концерт», отказ от каких-либо сепаратных выступлений, свобода и равенство наций, экономия в военных расходах и уклонение от всяких союзных договоров, которые могли бы связывать внешнюю политику Англии. По существу политика Гладстона оставалась политикой колониальной экспансии; именно при нём совершилась оккупация Египта британскими войсками. Но некоторое реальное содержание во всей этой либеральной фразеологии всё же имелось. Восстановление «европейского концерта», разрушенного Биконсфильдом в момент отклонения Берлинского меморандума, и лозунг свободы и равенства наций в переводе на простой язык означали отказ от англо-турецкого союза, а также от фактического протектората над Турцией, т. е. от основ внешней политики Биконсфильда, ради попытки соглашения с Россией. При прямом поощрении со стороны Биконсфильда султан медлил с осуществлением Ряда неприятных для него постановлений Берлинского конгресса. К числу их относилось исправление границ Черногории и Греции Гладстон резко повернул этот политический курс. Осенью 1880 г. и в начале 1881 г. Россия и Англия при пассивной поддержке Франции и Италии угрозой применения силы принудили султана уступить Греции Фессалию и удовлетворить претензии Черногории.
Рассчитывать на поддержку Англии Австрия теперь явно не могла. Более того, перед ней вырастала угроза англорусского соглашения. Некоторое время австрийцы не хотели этому верить, и потому переговоры с Россией протянулись ещё около года. Наконец, австрийцы поняли, что от Гладстона им ждать нечего. Тогда колебаниям их пришёл конец. 18 июня 1881 г. был подписан австро-русско-германский договор. По примеру договора 1873 г., он тоже вошёл в историю с громким титулом «союза трёх императоров». В отличие от договора 1873 г., который был консультативным пактом, договор 1881 г. являлся прежде всего соглашением о нейтралитете.
Договаривающиеся стороны взаимно обязывались соблюдать нейтралитет, в случае если какая-либо из них окажется в состоянии войны с четвёртой великой державой. Это означало, что Россия обязывалась перед Германией не вмешиваться во франко-германскую войну. Повидимому, тут сказалось воздействие Гирса и других германистов из царского окружения. Германия и Австрия в обмен гарантировали то же самое России на случай англо-русской войны. Гарантия нейтралитета распространялась и на случай войны с Турцией, при том, однако, непременном условии, чтобы заранее были согласованы цели и предполагаемые результаты этой войны. Было предусмотрено, что никто из участников договора не станет пытаться изменить существующее территориальное положение на Балканах без предварительного соглашения с двумя другими партнёрами. Кроме того, Германия и Австрия обещали России, что окажут ей дипломатическую поддержку против Турции, если та отступит от принципа закрытия проливов для военных судов всех наций. Этот пункт был особенно важен для русского правительства. Он предупреждал возможность англо-турецкого соглашения и устранял опасность появления английского флота в Чёрном море. Таким образом, посредством договора 18 июня 1881 г. Германия гарантировала себе русский нейтралитет в случае своей войны с Францией; Россия же обеспечивала для себя нейтралитет Германии и Австрии при войне своей с Англией и Турцией.