Первоначально монастырь состоял из нескольких деревянных по-строек. Ему с самого начала не везло. При династии Северная Чжоу в 572–575 гг. обитель была закрыта из-за гонений на буддизм, а монахи распущены. В ту эпоху рост буддийских и даосских монастырей был столь интенсивен, что менял даже социальную структуру населения. Лишь вокруг одного города Лояна, что неподалеку от Шаолиньсы, насчитывалось 1370 буддийских обителей. Супруга правителя Северного Чжоу У-ди покинула светскую жизнь и ушла в буддийские монахини, такую же судьбу избрали еще пять наложниц правителя. Многие земледельцы уходили под покровительство монастырей и переставали платить налоги в казну. Правитель издал гневный указ, видимо, памятуя и личную обиду на жен и наложниц: «Монастыри закрыть, а монахов распустить, дабы они вернулись к мирской жизни». Удар пришелся не только по буддийским монастырям, но и по даосским и конфуцианским кумирням.
Когда в мае 574 г. правитель собрал видных чиновников и представителей монашества для обсуждения этого вопроса, присутствовавший на собрании шаолиньский монах Чжисюань вступил в резкую дискуссию, отстаивая право монастырей на существование. Но его доводы не возымели силы, монастырь был закрыт.
Правда, гонения оказались неподолжительными. Уже в 579–580 гг. монастырь был восстановлен, но под другим названием – «Взбираться на поросший холм» (Чжихусы), что являлось реминисценцией фразы из китайского классического «Канона песнопений» («Шицзин»). Однако это название не прижилось, и через год монастырю возвратили прежнее – Шаолинсы.
Настоятелем монастыря стал его создатель Бато, он же и начал набирать послушников. Согласно монастырским хроникам, первый из них попал в монастырь довольно необычным образом. Однажды, прогуливаясь по улицам Лояна, Бато увидел забавное зрелище: двенадцатилетний подросток, стоя на краю колодца, жонглировал ножным воланом (род китайского футбола), причем делал по 500 ударов ногой по волану за один подход. Восхитившись его умением, Бато взял Хуэйгуна в монастырь, где тот не только преподавал монахам ушу, но в зрелом возрасте даже перевел на китайский язык известный буддийский трактат «Десять земель» («Ши ди»).
Второй монах, Сэнтяо (480–560 гг.), отличался серьезностью и сосредоточенностью. С детства Сэнтяо был слаб и укреплял свое тело занятиями ушу. Поняв, что крепость тела непосредственно зависит от силы духа, он в поисках путей к самосовершенствованию обратился к буддизму и поселился в монастыре Цзиньминсы. Прошло почти десять лет, но просветление никак не приходило к нему. В конце концов он покинул монастырь и отправился на поиски Бато, рассказы об удивительной святости которого достигли его ушей. Сначала Бато отнесся к Сэнтяо с недоверием: разве может быть хорошим учеником тот, кто, воспитываясь в монастыре десяток лет, так ничего и не достиг? Но все же согласился взять нового послушника, и вскоре Сэнтяо стал единственным последователем индийского патриарха, полностью перенявшим от него тайную технику самосовершенствования и учение о смысле сидячей медитации. Именно его Бато назвал своим преемником.