Первое, что сделал Иосиф после смерти матери, — разогнал многочисленных женщин, которые окружали императрицу в последние годы: престарелых вдов придворных, родственниц, бывших воспитательниц, за исключением самых старых, которых трогать с места было небезопасно. Старшую сестру Марию Анну отвезли в ее любимый монастырь в Клагенфурте, сестру Марию Елизавету отправили в «Приют для дам» в Инсбрук. Марию Кристину и ее супруга отправили в Брюссель и назначили правителями Нидерландов. Это Иосиф сделал, выполняя предсмертную волю матери, так как сам был невысокого мнения о способностях своих родственников, особенно сестер, считая их, прежде всего, интриганками.
Он остался жить в Хофбурге, в «Леопольднишертракт» (флигеле Леопольда), где жил уже много лет. Это были три скромные комнаты, оборудованные люком, который вел в канцелярию, что находилась прямо под комнатами Иосифа. Там же был устроен подъемный механизм, с помощью которого документы поднимались наверх к письменному столу Иосифа или, наоборот, от императора в канцелярию. Настоящим убежищем стал для него фамильный замок в Аугартене, неподалеку от Дуная, который он приказал переделать для себя и проводил там как можно больше времени. «Я с большим удовольствием обедаю один в моем саду, — писал он Леопольду, — тишина царит».
Иосиф упростил этикет: никому не разрешал целовать себе руку, покончил с пышными праздниками и сохранил только один праздничный день — Новый год. Он перестал надевать формальный испанский придворный костюм, который привезли в Вену из Мадрида еще во времена Карла V, и первым надел военный мундир на придворную церемонию.
Иосиф жил очень скромно: носил простой сюртук, спал на постели, покрытой оленьими шкурами, экономно ел и пил. В Хофбурге из кухни к обеду ему приносили наверх пять блюд и расставляли на кафельной печи в его рабочем кабинете, чтобы они не остыли. Он ел обычно один, разговаривал при этом со слугой, который подавал на стол, и старался закончить еду быстро, чтобы скорее продолжить работу. Как незначительную уступку этикету, он носил парик (он почти совсем облысел), из-под которого спускалась тонкая неряшливая косичка. Даже в театре он носил странный головной убор, сделанный из клеенки. Посетители с удивлением замечали, что его сюртук был заштопан на локтях.
Он ходил в театр, в оперу и на концерты. Иногда заезжал в Лихтенштейнский дворец, чтобы поиграть в карты со стареющими придворными дамами. Дома был в одиннадцать и продолжал работать за письменным бюро, которое освещалось единственной свечой в оловянном подсвечнике. Потом он ложился спать и вставал рано: летом в пять, зимой в шесть часов — так же, как его мать.