Рахманинов попал в класс преподавателя В. В. Демьянского, который в основном занимался с малоодаренными детьми. Талантливым говорил: «Ну, вы-то ведь сможете и сами хорошо справиться с этой работой». Действительно, то, что другим ученикам нужно было втолковывать, Сережа хватал на лету, у него многое получалось как бы само собой. Но кому много дано, с того много и спросится. Чем больше способности, тем больше труда надо к ним приложить, чтобы достичь больших результатов, а на одних способностях далеко не уедешь. А Рахманинов был предоставлен сам себе.
И не только в консерватории, но и дома. Семья распалась. Мама ушла в свое горе. Бабушка и тетя, у которых Сережа жил, не были строгими и требовательными. Дома даже не предполагали, что он плохо учится. Много лет спустя Рахманинов рассказывал: «Моя бабушка верила всему, что я говорил. Я получал от нее 10 копеек в день на расходы и на проезд в консерваторию, но я уходил прямо на каток и проводил там все утро».
К концу учебного года Сережа настолько обленился, что в результате получил столько плохих оценок, что встал вопрос о лишении его права обучаться в консерватории бесплатно. Мама была в отчаянии. На ее счастье, в Петербург приехал с концертами Александр Зилоти — двоюродный брат Сергея. После окончания Московской консерватории Зилоти провел несколько лет за границей, где совершенствовался в игре на фортепиано у Ференца Листа. Мама попросила его послушать Сережу, чтобы решить, стоит ли ему продолжать учебу в консерватории.
Сначала Зилоти решил поинтересоваться у директора консерватории К. Ю. Давыдова, что собой представляет двоюродный брат. Тот сказал о нем: «Ничего особенного!» И добавил, что Сережа — отчаянный шалун и редкий лентяй. Но когда Сережа сыграл ему, он понял, что перед ним незаурядный талант. Правда, развитие его, несомненно, шло не в том направлении, в котором следовало бы. Он предложил Сережиной маме отправить его учиться в Московскую консерваторию, взяв все хлопоты на себя.
И вот Сереже сшили новую куртку. Под подкладку зашили 100 рублей (как сказала бабушка, на всякий случай) и отправили его в Москву.
По рекомендации Зилоти двенадцатилетний Сережа попал в руки известному педагогу Николаю Сергеевичу Звереву. В консерватории он вел только младшие классы, и его ученики потом переходили к С. И. Танееву, В. И. Сафонову, А. И. Зилоти. Особо талантливых детей он брал на полный пансион. Таких учеников в Москве в шутку называли «зверятами».
К своим пансионерам Зверев относился особенно строго. Вместе с Рахманиновым у него в то время жили Максимов и Пресман. В летнее время Николай Сергеевич возил их на свою дачу, в Крым или Кисловодск. Он отпустил Сережу на каникулы к бабушке только в 15 лет. Зверев не брал денег за учение, более того, оплачивал учителей, которые обучали мальчиков иностранным языкам и общеобразовательным предметам. Ученики под его ежедневным присмотром и заботой получали разностороннее музыкальное образование. Два раза в неделю к ним приходила учительница, с которой они на двух роялях в 8 рук играли симфонии и увертюры.