Вся эта беднота ютилась на окраинах в жалких лачугах, а то и в землянках, шаталась по улицам, попрошайничала и пьянствовала. Сближение с этой средой у молодого священника началось преимущественно через детей. Сохранился очень характерный рассказ одного ремесленника.
«Прихожу раз не очень пьяный. Вижу, какой-то молодой батюшка сидит и на руках сынишку держит и что-то ему ласково говорит. Я было ругаться хотел, вот, мол, шляются тут всякие. Да глаза батюшки, ласковые да серьезные, меня остановили. Стыдно стало. Опустил я глаза, а он смотрит, прямо в душу смотрит... Начал говорить. Не сумею я передать все, что он говорил. Говорил, что у меня в каморке рай, потому что там, где дети, там всегда тепло и хорошо, и о том, что этот рай не нужно менять на чад кабацкий. Не винил он меня, нет, все оправдывал, только мне было не до оправдания. Ушел он, я сижу и молчу... не плачу, хотя на душе так, как перед слезами. Жена смотрит. И вот с тех пор я человеком стал».
Новый батюшка утешал брошенных матерей, нянчил их детей, пока мать стирала, помогал деньгами, нередко лично покупал продукты беднякам, ходил в аптеку за лекарством, приводил в лачуги врача, вразумлял и увещевал пьяниц. Очень часто все свое жалованье раздавал нуждающимся. Когда не оставалось денег, отдавал свою рясу, сапоги, а сам босой возвращался домой.
Досаждал отец Иоанн властям и высокопоставленным гражданам хлопотами за разных несчастных. Все это в совокупности поначалу воспринималось враждебно. Приличная публика видела, как за отцом Иоанном следуют толпы бедняков, и ее возмущали подобные демонстрации. Достаточно горьких минут пришлось пережить священнику, но духом он никогда не падал.
Когда ему сообщали, что его принимают за юродивого, отвечал: «Ну что же, пусть юродивый». Жене, которая не сразу поняла праведный путь великого мужа, кронштадтский батюшка говорил: «Счастливых семей, Лиза, и без нас довольно. А мы с тобой посвятим себя на служение Богу».
Не понимали столь высоких духовных подвигов и сослуживцы отца Иоанна — духовенство Андреевского собора. Стали хлопотать, чтобы жалованье священника выдавали его жене. Ходатайство было удовлетворено. Однако в 1857 году «эксцентричный» священник получил уроки Закона Божия в Кронштадтском реальном училище. Плату за них он считал уже точно своим достоянием и продолжал благотворить.
В 1862 году в Кронштадте открылась классическая гимназия, законоучительская должность была предложена получившему широкую известность в городе священнику. Он с радостью взялся за преподавание — ему предоставлялись самые широкие возможности руководить детьми до зрелого возраста, влиять на их нравственность, воспитывать души.