Многие скорби и тяготы перенес он в монастыре: несправедливые упреки, лишения, болезни. Десятилетиями у него не было даже своего угла, где бы он мог почитать, помолиться, отдохнуть. Но испытания только укрепили и очистили душу, сделали брата Ивана совершенным послушником и монахом.
15 апреля 1864 года он был одет в рясофор, а 16 июня 1872 года пострижен в мантию с именем Иосиф. Нечего и говорить, что и без того серьезное его настроение с той поры стало особенно сосредоточенным и глубоким. Отец Иосиф пребывал в полном и безропотном послушании к старцу Амвросию, которому дивились не только миряне, но и духовные лица. Так, однажды отца Амвросия поджидал игумен Исаакий, будущий настоятель. Взяв со стола книгу и начав ее читать, он спросил у старшего келейника: "Отец Михаил, благослови мне почитать эту книжку!". Отец Михаил с низким поклоном добродушно ответил: "Сделайте одолжение, отец игумен, какую вам угодно". Тут вошел отец Иосиф, и отец Исаакий обратился к нему с тем же вопросом. Истинный послушник скромно ответил: "Сейчас, я спрошу у старца…".
В 1877 году совершенно неожиданно он был посвящен в сан иеродиакона, однако во время сорокоуста у него сделалось воспаление в правом боку, отчего он чуть не умер. Своей келлии он до сих пор не имел и продолжал спать в приемной старца, которая часов до 11 вечера была всегда заполнена народом. В 12 он ложился, а в 1 час, когда был чередным служащим, должен был быть уже в храме. Однажды отец Иосиф уснул прямо на пороге приемной, так что преподобный Амвросий, проходя к себе, споткнулся о спящего келейника. А тот, проснувшись, лишь виновато улыбнулся. Через свое беспрекословное послушание отец Иосиф достиг такого смирения, которое впоследствии возвело его на великую духовную высоту.
В 1884 году отец Иосиф стал иеромонахом. К этому времени он уже был старшим келейником старца Амвросия. Тихий и серьезный выходил он к посетителям, внимательно выслушивал, в точности передавал ответ старца, ничего не добавляя от себя. Но все чаще старец отсылал посетителей спросить совета у келейника, и всех поражало, что его слова буквально совпадали с тем, что говорил сам преподобный Амвросий. Тогда старец Амвросий некоторых своих посетителей стал благословлять обращаться к нему с духовными вопросами.
В 1888 году иеромонах Иосиф тяжело заболел и был пострижен в схиму. Во время этой болезни, которая, как оказалось, была не к смерти, а к славе Божией, Своего избранника снова, как некогда в детстве, посетила Царица Небесная. "Потерпи, любимче Мой, немного осталось", — утешала Она его. Эти слова услышал послушник, ходивший за отцом Иосифом. Думая, что за ширмой, где лежал больной, кто-то есть, он заглянул туда и был поражен: там никого не было. "А батюшка Иосиф, — рассказывал он старцу Амвросию, — лежал как пласт, с закрытыми глазами. Меня такой объял страх, что волосы дыбом встали". И после старец Амвросий говорил некоторым, что отец Иосиф в болезни сподобился видеть Царицу Небесную…