Отец Иоанн начал с того, в чем более всего нуждалось православное население, — с церкви. В Суре, правда, стояли две ветхие церкви, которым было двести и триста лет. Они уже покосились, что давало беспоповцам основание для обличения православных и повод называть храмы «кривыми». Действительно, и та и другая скорее походили на простые крестьянские избы.
Отец Иоанн обратился к своим почитателям, и вскоре на руках у него оказалось 55 500 рублей. Помимо денежной помощи, от жертвователей привозились иконы, хоругви, церковная утварь, облачения, богослужебные книги. В 1891 году храм был готов и 27 июня освящен.
Окончив первое святое дело, кронштадтский батюшка задумал осуществить и другое — построить на родине женскую общину, которая могла бы стать приютом для вдов, сирот, престарелых и безродных девиц. В 1899 году было начато строительство, а через год к приезду на родину отца Иоанна уже возвели церковь и корпус для сестер.
Устроив и освятив Сурскую женскую общину, основатель решил упрочить ее существование. Для этого было задумано построить два подворья в Архангельске и Петербурге. Постройка в Архангельске была не особо затруднительной — дешевизна земли, лесного материала и рабочих рук облегчала задачу. Что же касается постройки подворья в Петербурге, то батюшке немало пришлось похлопотать.
Самым трудным оказалось найти удобное место для строительства в столице, поскольку земля стоила очень дорого. Но неожиданно нашелся благотворитель — купец Симеон Раменский, который пожертвовал свой участок земли в 500 квадратных саженей на доброе дело. Участок оказался очень удобным. Он находился на Аптекарском острове, на берегу реки Карповки, и хоть и был удален от шумного центра, но находился вблизи Каменноостровского проспекта, по которому ходил трамвай, связывающий с центром города.
Получив разрешение от епархиального начальства, отец Иоанн решил поначалу вести дело в скромных размерах. Но сразу же явилось несколько крупных благотворителей, в том числе и талантливый архитектор Н. Н. Никонов, который очень быстро составил проект всех архитектурных работ. С той же быстротой начались сами работы. В короткий двухлетний срок появилось грандиозное сооружение, которое по обширности и красоте не уступает лучшим архитектурным памятникам столицы.
Осенью 1902 года отец Иоанн обратился к петербургскому митрополиту Антонию: «...Я нашел, что это сооружение в столице слишком художественно и обширно, чтобы ему быть подворьем... и что ему лучше быть петербургским самостоятельным женским монастырем в ведении одного митрополита Санкт-Петербургского, с тем неизменным всегда условием, чтобы третья часть доходов обители (только не от доходов каменного пятиэтажного дома при обители) поступала ежегодно в разные сроки года в Сурскую женскую обитель и чтобы на первых порах не облагать эту новую обитель разными обязательствами и налогами, требующими больших денежных расходов». Просьба основателя монастыря была уважена, и Сурское подворье превратилось в Иоанновский женский монастырь, названный так в честь небесного покровителя отца Иоанна — св. Иоанна Рыльского.