Он начинает внимательно присматриваться к строению черноземных почв: «… при своих поездках в восточной и южной России, — писал он, — я во многих местах по возможности детально рассматривал глубокие разрезы чернозема в ямах, нарочно для этого или для других целей выкопанных, или же на обрывах оврага и в канавах…» «Я отказался от прежнего своего мнения о просачивании в почву органических веществ», — откровенно признал Костычев. Особенно много дало ему совместное изучение строения черноземов и корневой системы степных злаков. Он всегда старался точно проследить, до какой глубины идут корни ковыля, тонконога, типчака и других растений, одновременно он наблюдал, как изменяется с глубиной окраска черноземов. Между этими двумя явлениями был замечен поразительный параллелизм. И наблюдался он не в одном каком-нибудь месте, а положительно повсюду — «в губерниях Воронежской, Харьковской, Екатеринославской, Уфимской, Оренбургской и в киргизских степях за Уралом».
— Во всех этих местностях, — говорил Костычев, — я с особым вниманием старался определить, какое соотношение существует между глубиной окраски почв перегноем и глубиной распространения корней, и повсюду находил, что растительные корни доходят только до той глубины, где оканчивается окраска почвы; ниже слоя, в котором окрашивание заметно еще на глаз, я почти никогда не находил ни одного мельчайшего корешка; но затем, по мере приближения к поверхности, с увеличением густоты окраски увеличивается и число растительных корней, доходя до наибольшего количества в верхнем слое, где и органических перегнойных веществ содержится больше, чем в других слоях.
В черноземной полосе Костычеву встречались почвы разного механического состава, то-есть с неодинаковым содержанием грубых песчаных и тонких глинистых частиц. Оказалось, что в песчаных почвах корни растений проникают на большую глубину, одновременно здесь наблюдается и более глубокая перегнойная окраска. Цвет почвы точно определить совсем не так просто: он зависит не только от того, сколько в ней перегноя, но и от других причин: от освещения, влажности, окраски материнской породы. Костычев заметил, что почва более влажная всегда кажется и более темной, чем почва сухая, даже если в ней содержится одинаковое количество перегноя. Поэтому полевые наблюдения пришлось подкрепить химическими анализами. Они вполне подтвердили предположение Костычева; между количеством перегноя и характером распространения растительных корней в почве было установлено во всех случаях замечательное совпадение. Значит, корни растений являются главным источником образования почвенного перегноя, или гумуса. Это открытие Костычева имело большое научное значение.