Прежде чем император успел отреагировать на создавшуюся ситуацию, одно из ключевых мест в иерархии управления страной, епископское кресло в Аугсбурге, оказалось занято. Назначение епископа Аугсбурга представляло собой серьезное превышение властных полномочий и посягательство на королевские права, почитавшиеся прежде обеими южнонемецкими ветвями королевской семьи. Больше того, герцог Бурхард перехватил и задержал королевского посланника, который должен был доставить императору, находившемуся в Аахене, известие о кончине епископа Ульриха. Особую пикантность событию придал тот факт, что императорский двор прочил на освободившееся место аббата Фульды Верингара.
Чисто внешне Оттон II вел себя сначала очень сдержанно, однако после смерти герцога Бурхарда 11 ноября 973 года стал действовать быстро и жестко. В соответствии с царившими в X веке понятиями герцог Генрих Сварливый намеревался расширить свое могущество за счет объединения двух южнонемецких герцогств с помощью брака сестры Ядвиги и Бурхарда. Но Оттон II, предупрежденный о планах герцога, прежде чем Генрих Сварливый смог нанести удар, передал герцогство Швабия своему другу Оттону, сыну Людольфа. Одновременно император ограничил содержание Ядвиги до минимума.
Мероприятия, затеянные Оттоном II, вызвали сильнейшее недовольство герцога Генриха II Баварского, и он начал планировать открытое восстание против императора. Его намерение объединить оба княжества потерпело крушение, и он претендовал только на императорскую корону. В конце июня 974 года стало очевидно – герцог вступил в сговор с князем Болеславом II Богемским и князем Мешко Польским, намереваясь свергнуть императора. Однако граф Бертольд Бабенбергский своевременно предупредил императора о готовящемся заговоре. Прежде чем дело дошло до открытых боевых действий, император смог подчинить герцога своей власти и заключил его под арест в императорском дворце Ингельгейм.
Однако в феврале 976 года Генриху Сварливому удается бежать из Ингельгейма при помощи верных ему людей. Императрица Адельгейда пыталась склонить сына, Оттона II, к уступкам в баварском вопросе. Но после бегства Сварливого из Ингельгейма император не желал больше идти ни на какие уступки. Он жестоко подавил начавшее вновь разгораться восстание мятежных властителей Баварии, но Сварливому снова удалось ускользнуть и укрыться в Чехии. Когда герцог узнал, что Оттон II повернул свое войско в сторону Чехии, намереваясь разделаться и с Болеславом, он вернулся назад в Баварию. Там он с остатками соратников укрылся в Пассау. Герцог Оттон Швабский, выступавший заодно с императором, предложил им сдаться.