Будущий Свами родился в индийском городе Паттамадай в семье, к которой принадлежали мудрец Аппайя Дикшита и ещё несколько других известных учёных и святых. При рождении он получил имя Куппусвами. С детства будущий Свами был наделён стремлением служить людям и врождённым чувством единства со всем человечеством. Несмотря на то, что Куппусвами рос в ортодоксальной семье, он отличался необыкновенной широтой взглядов, а также демонстрировал незаурядные способности в учёбе и развивался не по годам быстро. В школе Куппусвами был лучшим учеником, а в колледже, где даже играл в театре, – лучшим студентом, Стремление служить людям привело его в медицинскую школу в Танджоре. Получив диплом врача-хирурга, Куппусвами отправился работать в Малайю (современная Малайзия), где вскоре ему доверили управлять госпиталем. В течение последующих десяти лет, по отзывам очевидцев, молодой врач отдавал работе и пациентам всё своё время, стараясь исцелять не только тело, но и души. Многие замечали его доброту, сострадательность, внимательнось к каждому, кто нуждался в помощи. Иногда Куппусвами проводил у постели больного целые ночи без сна. Часто он принимал пациентов без оплаты, оплачивал лекарства для малоимущих людей из своего кармана. За дух служения, доброту и самоотречённость люди называли его «Сердце Любви». Однажды доктор Куппусвами вылечил странствующего санньясина (монаха, отрёкшегося от мирской жизни), и тот обучил его йоге и веданте, а также познакомил с книгой Свами Сатчитананды, которая ещё больше разожгла в молодом человеке духовный огонь. С этого дня жизнь Куппусвами резко меняется. Он стал чаще погружаться в самосозерцание, размышлять над смыслом жизни, он начинает заниматься духовными практиками и йогическими асанами, изучать книги Свами Рамы Тиртхи и Свами Вивекананды, Библию и другие священные писания, литературу Теософского общества. Шло время, и чем больше он размышлял, тем больше желал полного единения с Богом. Любовь и служение очистило его сердце, поэтому доктор Куппусвами оставляет прибыльную медицинскую практику, отвергает мирскую славу и, подобно принцу Сиддхартхе (Будда), отрекается от мира.
В 1922 году Куппусвами возвращается в Индию и сразу же уходит на Поиски Бога. Сначала он отправился в Варанаси, затем в Ришикеш. Вскоре туда же прибыл гуру Свами Вишвананда Сарасвати, в котором Куппусвами узнал своего учителя. В Ришикеше он получает посвящение в санньясу и новое имя – Шивананда («блаженство Всевышнего») и остаётся здесь навсегда. В поисках ответа на вопрос, отчего существуют страдания и смерть, Шивананда раздает своё немногочисленное имущество и становится отшельником. Он живёт в самоотречении и аскетизме и последующие 10 лет занимается йогой, постится, живёт в разрушенных лачугах, соблюдает обет молчания, каждый день проводит в 12-часовых медитациях. Однако вскоре Шивананда решает, что поста, аскетизма и медитации для просветления недостаточно. Поэтому он открывает на оставшиеся у него сбережения благотворительную аптеку и выдаёт лекарства бедным местным жителям и паломникам. Также он заботится о больных, не пугаясь даже трудных случаев оспы и холеры. При необходимости он мог отнести больного на своей спине в госпиталь. Собирая бумагу и сшивая её в книжки, Шивананда писал для самого себя наставления: «Не мсти, не сопротивляйся злу, воздавай за зло добром, терпи оскорбления и обиды» и другие.