Под балконом его наместничьего дома часто видели калек, убогих, самых разных обойденных судьбой людей. И наместник, несмотря на постоянные запреты властей, помогал им чем мог: кого кормил, кого лечил, кому помогал деньгами, а когда под руками их не было, шутил: "Еще не готовы — сохнут! Приходи-ка, раб Божий, завтра!"
В некоторых случаях размеры помощи были весьма значительными: наместник помогал заново отстроиться погорельцу, а при падеже скота давал денег на покупку коровы. Узнав однажды, что неподалеку, в Изборске, у известного местного художника П. Д. Мельникова по несчастной случайности сгорел дом, он отправил ему довольно крупный по тем временам денежный перевод: «Хоть на первое время».
«Отец Алипий имел удивительный дар слова, — вспоминал отец Нафанаил. — Не раз приходилось слышать от паломников: "Поживем еще недельку, может, услышим проповедь отца Алипия". В своих поучениях он поддерживал унывающих, утешал малодушных: "Братья и сестры, вы слышали призывы об усилении антирелигиозной пропаганды, вы головы не вешайте, не унывайте, это значит — им туго стало"; "Страшное дело — примкнуть к толпе. Сегодня она кричит: „Осанна!" Через четыре дня: „Возьми, возьми, распни Его!" Поэтому там, где неправда, „ура" не кричи, в ладоши не хлопай. А если спросят почему, отвечай: „Потому что у вас неправда". — „А почему?" — „Потому что моя совесть подсказывает". — „Как узнать Иуду?" — „Омочивый руку в солило, тот Меня предаст", — сказал Спаситель на Тайной Вечери. Ученик дерзкий, который хочет сравняться с учителем, с начальником, занять первое место, первым взяться за графин. Старшие еще не завтракали, а малыш уже облизывается, уже наелся. Растет будущий Иуда. На двенадцать — один Иуда. Если старшие не сели за стол, и ты не садись. Сели старшие, садись по молитве и ты. Старшие не взяли ложку, не бери и ты. Старшие взяли ложку, тогда возьми и ты. Старшие начали кушать, тогда начинай и ты"».
Но не все беседы у балкона были столь мирными и умилительными.
Как-то Псковскую область посетила сановная и очень влиятельная дама — министр культуры Фурцева со свитой столичных и областных чиновников. От этой дамы в те годы трепетали многие, и не только деятели культуры. Как водится, ей устроили посещение Псково-Печерского монастыря. Но отец Алипий, зная о ее деятельности от своих друзей-художников и о патологической ненависти министерши к Церкви, даже не вышел ее встречать — экскурсию провел отец Нафанаил.
Высокая делегация уже направлялась к выходу, когда Фурцева увидела наместника, стоявшего на балконе и беседовавшего с собравшимися внизу людьми. Дама решила проучить этого, дерзнувшего не выйти ей навстречу монаха. А заодно — и преподать областному руководству наглядный урок, как следует решительно проводить в дело политику партии и правительства в области противодействия религиозному дурману. Подойдя поближе, она, перебивая всех, крикнула: