15 (28) июля 1923 юла произошло публичное покаяние перед патриархом Тихоном Митрополита Сергия (Страгородского) в Донском монастыре. Патриарх возложил на него крест и панагию, а Владыка Иларион вручил ему белый клобук.
Во многом благодаря деятельности епископа Илариона началось массовое возвращение клира и мирян в "тихоновскую" Церковь. Храмы, захваченные обновленцами, стали пустеть.
В своих неустанных трудах Святитель прибегал к небесному заступлению Святых угодников Божиих, особое значение придавая молению за Русь преподобному Серафиму.
Предположительно в июне 1923 года Владыка Иларион был возведен в сан архиепископа. Святитель Тихон включает владыку в состав действовавшего при нем Временного Патриаршего Синода.
Будучи прекрасным оратором. Владыка Иларион произносил проповеди, направленные против обновленческого раскола, выступал на диспутах против обновленческого лидера Александра Введенского и советского наркома просвещения Л. В. Луначарского. Многие москвичи в те годы стали свидетелями убедительных побед православного архиерея над своими противниками.
По воспоминаниям Варлама Шаламова, основным отличительным признаком его речи была уверенность в Истине; но действовало на людей безотказно и глубоко.
Власти не простили Владыке его деятельности по борьбе с обновленчеством и укреплению единства Церкви, не простили его преданности Святейшему Патриарху. В ноябре 1923 юла святитель Иларион был вновь арестован.
Постановлением Комиссии НКВД по административным высылкам он был осужден на три года концлагерей.
В жизнеописании архиепископа Илариона, составленном протопресвитером М. Польским, говорится, что до Соловков он уже был один год в ссылке в г. Архангельске (и в Кемском лагере). Увидев весь ужас обстановки, даже он, жизнерадостный и бодрый, сказал: "Отсюда живыми мы не выйдем."
Один из священников - соузников Владыки по Соловкам дает такое описание его личности: '"Архиепископ Иларион - человек молодой, жизнерадостный, всесторонне образованный, прекрасный церковный проповедник, оратор и певец, блестящий полемисте безбожниками, всегда естественный, искренний, открытый; везде, где он ни появлялся, всех привлекал к себе и пользовался всеобщей любовью... За годы совместного заключения являемся свидетелями его полного монашеского нестяжания, глубокой простоты, подлинного смирения, детской кротости. "
На Соловках Владыка был сетевязальщиком и рыбаком. Об этой работе он говорил переложением слов стихиры на Троицын день: "Вся подает Дух Святым: прежде рыбари богословцы показа, а теперь наоборот - богословцы рыбари показа." Благодушие его по свидетельству того же о. Михаила Польского, простиралось на самую советскую власть. Б. Ширяев видел, как Владыка спас тонущего военкома Сухова. Ошеломленный чекист трижды перекрестился и невольному свидетелю сказал: "Молчи, а то в карцере сгною, день-то сегодня знаешь какой. Страстная Суббота."