Едва ли не самым характерным примером того, как формировалось Румянцевское собрание, является накопление в нем работ Александра Иванова. К основной картине художника присоединяется ее эскиз из собрания К. Т. Солдатенкова, этюды голов Христа и Марии Магдалины, несколько этюдов и полотно «Приам в ставке Ахилла». Многочисленные этюды и эскизы к Библии дарит брат художника, С. А. Иванов, этюд для головы Иоанна Крестителя Е. П. Романова, картину «Аполлон, Кипарис и Гиацинт», вместе с несколькими этюдами, выставляют наследники писателя и драматурга, друга Н. В. Гоголя, А. С. Хомякова.
К началу нашего столетия объем собрания Румянцевского музея по всем его разделам оказывается настолько значительным, что возникает необходимость строительства отдельного здания картинной галереи, отвечающего всем условиям музейного хранения. Эта галерея сооружается вблизи бокового флигеля Пашкова дома главным архитектором Румянцевского музея гражданским инженером Л. Н. Шевяковым. Двухэтажная, замкнутая глухими фасадными стенами, она имела своеобразную световую систему, благодаря которой стеклянная крыша обеспечивала через четыре световых колодца дневное освещение и нижнего этажа. Внизу помещались два зала русской живописи второй половины XIX века и четыре зала, занятых произведениями иностранных школ. Один занимали произведения итальянских художников XIV–XVIII столетий, другой — французских и немецких XVII — начала XIX, остальные отводились для нидерландцев, а также голландской и фламандской школ XVII столетия.
На втором этаже значительное место занимал Кабинет гравюр с библиотекой по искусству и залом для чтения и занятий, в трех залах находились полотна русских мастеров XVIII — первой половины XIX века. Последний же в анфиладе зал был оборудован специально для картины и произведений Александра Иванова. Ивановский зал — единственное воспоминание о превосходном музее, дошедшее до наших дней. На старых фотографиях он продолжает удивлять удобством планировки, вместительностью и точно найденными точками, с которых открывалось перед посетителями замечательное полотно. Все советские годы в нем помещались столовая и пищеблок сотрудников Ленинской библиотеки.
Старые каталоги начинались объявлением, что «1) Картинная галерея открыта: в апреле, мае и сентябре от 11 ч. до 4 ч. дня; в остальные месяцы года от 11 ч. до 3 ч. дня; по воскресеньям, праздничным и табельным дням от 12 ч. до 3 ч. дня. 2) Кабинет гравюр открыт для занятий: три раза в неделю, от 11 ч. до 3 час. дня (желающим читать и заниматься в Кабинете гравюр следует обращаться к хранителю Отделения). В воскресные дни вход в музей бесплатный, в остальные дни с платою 20 коп.». Первый московский действительно публичный музей, особенно если иметь в виду, что функционировал он начиная с 1862 года, тогда как Третьяковская галерея была передана в дар городу и стала общедоступной лишь в 1892 году.