Фирма «железного старика» после его смерти стала именоваться «Наследники М. Г. Рукавишникова». Дело перестало расти, но и не пришло в упадок, и в этом была большая заслуга старшего сына - Ивана Михайловича, главного преемника рукавишниковских предпринимательских традиций. Сталелитейный завод в 1901 году прекратил свое существование, но позиции Рукавишниковых в торговле железом были по-прежнему устойчивы. В числе лидеров торговли железом Иван Михайлович приветствует посетившего в 1896 году Всероссийскую выставку императора Николая II и подносит государю хлеб-соль на роскошном серебряном блюде с рельефным изображением Железного ряда Нижегородской ярмарки. Иван Михайлович был одним из наиболее известных общественных деятелей Нижнего Новгорода: гласным городской думы, почетным мировым судьей, действительным членом Нижегородского общества поощрения высшего образования и Нижегородского общества любителей художеств - вот далеко не полный перечень его общественных «нагрузок», требовавших от него не только времени, но и значительных материальных средств. Благотворительствовал же он много.
Второй сын «железного старика» Сергей Михайлович (1852-1914) как наследник отцовского дела проявил себя мало, но зато он был известен всему городу строительством зданий, которые и сейчас украшают Нижний Новгород. На это у него уходила львиная доля доходов, получаемых им от общего дела Рукавишниковых. Прежде всего это дом-дворец на Откосе - роскошный, помпезный, но малопригодный для жилья. Зато впоследствии он оказался очень хорош для расположившегося в нем в 1918 году городского художественно-исторического музея. В 1879 году Сергей Михайлович приобретает усадьбу Подвязье неподалеку от Богородска и перестраивает ее, собираясь организовать образцовое сельское хозяйство. В 1908 году он строит доходный дом на улице Рождественской, где у входа ставит скульптуру рабочего и крестьянки работы Коненкова.
Скандальной известностью пользовался в Нижнем самый младший сын «железного старика» - «последыш», как его называли, Митрофан Михайлович (1864-1911). Будучи инвалидом, болезненно переживавшим свое уродство, он был самолюбив и тщеславен. Поэт Борис Садовской в своих воспоминаниях рисует его портрет самыми нелицеприятными красками: «Младший брат, уродливый горбун-алкоголик, любил юродствовать и ломаться. Раздаривая кому попало золотые часы и свои портреты в богатых рамах... собирал плохие картины и умер накануне производства в действительные статские советники». Таким видели его люди. Но о «плохих картинах»: некоторые из них, такие как «Ковер-самолет» Васнецова, «Дама под зонтиком» Крамского и другие, украшают сейчас залы нашего художественного музея. И благотворительствовал Митрофан Михайлович больше всех Рукавишниковых. Многое сделал он для Благовещенского монастыря, Троицкой Верхнепосадской церкви, кафедрального собора. Между улицами Алексеевской и Ошарской на его средства выстроено здание Кирилло-Мефодиевского Братства, председателем которого он был несколько лет, осуществлено строительство больницы Красного Креста и т.д. Город провожал Митрофана Михайловича в последний путь, как он и желал, с большими почестями в присутствии губернатора, губернского предводителя дворянства, городского головы.