Практически в то же время встал вопрос об объединении двух орденов — Немецкого ордена и ордена меченосцев. Инициатором здесь, видимо, выступил орден меченосцев. Средневековый хронист Петр из Дусбурга пишет, что на протяжении 1230–1236 гг. магистр меченосцев Волквин осаждал брата Германа фон Зальца просьбами об объединении. В «Хронике Тевтонского ордена» (вторая половина XV в.) содержится рассказ, составленный, предположительно, орденским великим магистром Гартманом фон Гельдрунгеном (1274–1283), принимавшим в юности непосредственное участие в переговорах. В нем сообщается, что только через четыре года после первого обращения Волквина, в 1234 г., Герман фон Зальца для выяснения состояния дел в ордене меченосцев послал в Ливонию двух послов — Эренфрида фон Нойенбурга и Арнольда фон Нойендорфа.
Посланцы пробыли в Ливонии всю зиму 1234/35 гг. и весной отбыли обратно в Германию. Вместе с ними отправились послы Волквина. Герман фон Зальца перепоручил разбираться с меченосцами второму лицу в своем ордене — магистру Германии Людвигу фон Оттингену, который, выслушав стороны, поднял вопрос о слиянии орденов на собравшемся летом 1235 г. в Марбурге орденском генеральном капитуле.
Точку в этих переговорах поставил Григорий IX, воспользовавшийся поражением меченосцев при Шауляе. В 1236 г. меченосцы совершили крупный поход против Литвы и были наголову разбиты войском из племен жемайтов и земгалов. Без посторонней помощи орден оказался бы на грани гибели. Буллой от 12 мая 1237 г., составленной в Витербо, в присутствии епископов Рижского, Дерптского и Эзельского, а также папского легата Вильгельма Моденского орден меченосцев упразднялся.[11] Его члены инкорпорировались в состав Немецкого ордена.[12] Ливонский магистр получал утверждение в должности от Верховного магистра Немецкого ордена, но ливонские братья должны были также приносить присягу на верность и послушание — не только главе ордена, но и епископу Рижскому. В принципе, эти события были звеньями одной цепи. Двумя годами ранее, в 1235 г. произошло аналогичное объединение Немецкого и Добжиньского орденов на территории Пруссии.[13]
По сообщению Петра из Дусбурга, узнав о поражении при Шауляе, «папа прекратил… дело и… брата Герлаха и брата Иоганна принял в орден госпиталя Святой Марии дома Тевтонского, дав им белый плащ с черным крестом, вменяя им и другим братьям… ордена рыцарей Христовых, находящимся в Ливонии, <…> соблюдать правила жизни ордена дома Тевтонского…».
Герман фон Зальца сразу после обнародования буллы от 12 мая направил меченосцев Герлаха Рыжего и Иоганна из Витербо в Марбург, к Людвигу фон Оттингену, с приказанием тому выбрать 60 рыцарей, снабдить их всем необходимым и отправить в Ливонию. В июле того же года в Марбурге был собран генеральный капитул Немецкого ордена. На нем было решено учредить должность отдельного магистра (ландмайстера) для Ливонии. Первоначально предполагалась фигура Дитриха фон Гронингена, но в итоге выбор был остановлен на Германе Бальке, занимавшем в тот момент пост ландмейстера в Пруссии. Гронинген был назначен в помощь Герману Бальке. По сообщению Петра из Дусбурга, гроссмейстер направил Германа Бальке в Ливонию «с 40 братьями и многими оруженосцами».