В Земледельческом институте Костычев быстро сходится с профессором Иваном Парфеньевичем Бородиным — в то время еще молодым, но уже очень разносторонним ботаником. Он продолжал то дело, которое начал в институте С. П. Карельщиков. «Бородин не только читал блестящие лекции, — вспоминал один из его учеников, — но и вел практические занятия по определению растений зимой — по засушенным гербарным экземплярам и фиксированному в спирту материалу из цветов и плодов…
Летом Иван Парфеньевич читал для широкой публики лекции и проводил экскурсии в Лесном парке; на них, как и на позднейшие его публичные лекции в Соляном городке, собиралась многочисленная и весьма разнообразная публика».
Костычев нередко бывал участником экскурсий Бородина и помогал ему давать объяснения слушателям по поводу встречающихся в парке древесных растений и условий их жизни. Лесной парк был тогда еще молодым, но чудесным. Несколько позднее на его территории был организован так называемый дендрологический сад — своеобразный живой музей древесной флоры. В выборе места для этого сада принимали участие Бородин, Костычев, профессор кафедры лесоустройства Рудзкий и другие преподаватели института.
Дендрологический сад занимал обращенный к югу пологий склон, защищенный со всех сторон от холодных северных ветров. Верхняя часть сада была сухая, а нижняя — очень мокрая, заболоченная. Средств у института было мало, и эту болотистую низину никак не удавалось осушить. Здесь пробовали высаживать самые неприхотливые деревья — ольху и белую березу, но и они не могли продержаться более двух лет.
Зато возвышенный участок сада поражал всех своим зеленым великолепием. Здесь росли прекрасные дубы, грабы, редкий в окрестностях Петербурга бук, множество хвойных деревьев, и среди них всевозможные пихты, ели, карликовый кедр. Пробовали — и не без успеха. — разводить таких «южан», как грецкий орех, айву, ломонос, плющ и даже древнее южнокитайское дерево гинкго — один из немногих живых остатков мезозойской эры.
Бородин и Костычев любили гулять здесь, обсуждая институтские дела, а чаще — разные вопросы науки, которые интересовали обоих ученых. Нередко к ним присоединялся Александр Фелицианович Рудзкий.
Новые знакомые часто собирались вечерами у Костычевых. Здесь было много разговоров о литературе и искусстве — ведь непременным участником вечеров был любимый всеми Ге. Он попрежнему писал в квартире своих друзей этюды к новым картинам, написал большой портрет Авдотьи Николаевны, держащей на руках годовалого сына Сергея{В настоящее время этот портрет хранится в Русском музее в Ленинграде.}. Все участники костычевских вечеров очень сожалели о решении художника покинуть Петербург и поселиться на Украине.