Таким «хозяйственным мужиком» был и М. Я. Рябушинский в области торговли.
Всю свою долгую жизнь, не меняя того образа жизни, какой создался в начале XIX века, он направлял все нараставшее богатство на дальнейшее развитие дела. От торговли холщовым товаром он перешел постепенно к торговле и бумажным, который входил все более и более в моду у потребителя, и шерстяным. Торгуя сперва в арендованных лавках, он затем покупает их у наследников Сорокованова и Нечаева. Скупая сперва товар у крестьян и мастеров, он затем сам начинает раздавать кустарям материал и им заказывать желательный товар. В 1846 году он заводит свою небольшую фабрику в Москве. В последние же годы своей жизни, когда его сыновья Павел и Василий стали взрослыми и оказались дельными работниками в его деле, он заводит фабрики шерстяных и хлопчатобумажных тканей в Медынском и Малоярославском уездах Калужской губернии.
Создавая свое дело, Михаилу Яковлевичу приходилось почти все время работать одному. Сперва дети были малы, а затем он долго не доверял их деловитости и привязанности к созданному им делу. Он доверял только своей жене Евфимии Степановне, отличавшейся своею добротой и хозяйственной заботливостью о семье; ей он завещал все свое дело, но она скончалась ранее мужа.
К детям он относился сурово. Само собою разумеется, что он требовал от них с ранних лет посильной помощи в лавке, но и к способам использования ими своего досуга он относился ревниво. Так, например, услышав раз где-то в доме раздающиеся звуки скрипки, он разыскал на чердаке второго сына Павла с инструментом в руках. Бедная скрипка поплатилась жизнью, так как была разбита о стропила крыши, а сын после этого не смел и думать о продолжении своих тайных от отца уроков музыки у какого-то эмигранта-француза, оставшегося в Москве после войны.
Книжному обучению детей он не придавал особенного значения. Учились они чтению и скорописи; судя же по изменению в их правописании в сороковых и пятидесятых годах, они большему научились самостоятельно, чем под руководством учителя.
По понятиям Михаила Яковлевича, наиважнейшим и наилучшим учителем является сама жизнь, и потому уже с 16 лет старший сын Иван Михайлович был поставлен на самостоятельное дело. По годовому отчету на Пасху 1835 года он арендовал у отца одну из лавок и самостоятельно торговал, получая из кладовой товар с 10 % надбавкой на цены. В лавке товара было на 11 727 рублей. В 1836 году он получил пользы от торговли 1 330 рублей 90 копеек, из которых уплатил отцу «за лавку, хлеб и одежду» 600 рублей. Следующие 2 года торговый оборот и доход увеличивались. Платил «процентовых» (8 %) 927 рублей 30 копеек, за ужин и обед 250 рублей и за одежду 450 рублей. Перед женитьбой, в 1841 году, Иван Михайлович забирает у отца товара только на 2 800 рублей, но расплачивается с посторонними поставщиками товара Михаил Яковлевич, который заканчивает все денежные счета с сыном в 1845 году после выдела его.