Костычев задумался над полученными результатами: а может быть, причина постигшей его неудачи заключается в том, что он брал для опытов чистые культуры отдельных видов бактерий — ведь в природной почве разные их виды всегда действуют совместно. Ученый ставит новые эксперименты: в колбочки со свежими растительными остатками он вносит «смеси» разных бактерий, но и в этом случае темных продуктов разложения не получалось. Костычев начал отчаиваться: «…я, наконец, потерял всякую надежду получить таким путем перегнойные вещества», — говорил он. Однако спустя некоторое время им была поставлена новая серия опытов — без доступа кислорода, с подкислением разлагающихся веществ. Но исследователь не получил того, что ожидал: «…все опыты над бактериями, стоившие мне очень большого труда и занявшие много времени, — с горечью отмечал он, — дали при всевозможных комбинациях, какие я только мог придумать, отрицательный результат. В культурах с одними бактериями никогда не получалось темного окрашивания субстрата».
И тут на помощь Костычеву пришел случай. Такие случаи всегда могут быть в жизни большого ученого, но повлиять на направление научного исследования они могут только тогда, когда ученый умеет из случайного наблюдения делать необходимые выводы. Вот как сам Костычев рассказывал об этом:
«Из описанных выше культур не все, однако, были удачны: в некоторых случаях вместе с бактериями пола-дали в колбочки грибные споры, из которых потом развивался мицелий{Мицелий, или грибница, — вегетативное тело грибов, образованное обильно ветвящимися, очень тонкими нитями, или гифами.}. Первая же неудачная культура такого рода сопровождалась замечательно удачным результатом в том отношении, что растительная масса вокруг мицелия окрасилась в темнобурый, почти черный цвет, и результат этот потом правильно повторялся при большинстве опытов…когда грибные споры попадали на разные части субстрата, темное окрашивание начиналось сразу в нескольких центрах, так что в действии грибов сомневаться не было возможности».
Так Костычев установил новый и неожиданный для того времени факт — роль грибов в разложении органических веществ и в образовании темноокрашенного перегноя почвы. Это открытие не отрицало значения бактерий для гумусообразования, но показывало, что не меньшую роль в почве играют и грибы.
Каким образом бактерии и грибы производят разложение органического вещества? Во времена Костычева на этот вопрос не существовало точного ответа; мнения ученых здесь сильно расходились. Обладая удивительной способностью проникать в самую сущность изучаемых явлений, Костычев и в этом вопросе примыкает к правильному воззрению, которое тогда еще только зарождалось, «…одни ученые, — писал он, — признают, что разлагающее действие производится непосредственно протоплазмой низших организмов, другие же полагают, что организм вырабатывает особое вещество — фермент, которое своим действием, сущность которого нам остается пока неизвестной, обусловливает распадение сложных веществ; для некоторых случаев существование таких ферментов строго доказано… существование ферментов весьма вероятно и при процессах гниения растительных остатков». Именно такое представление о ферментах в дальнейшем было глубоко разработано в трудах виднейших советских биохимиков — академиков Сергея Павловича Костычева и Алексея Николаевича Баха, а в вопросах почвоведения — академиком В. Р. Вильямсом. Но впервые эти мысли были высказаны Костычевым.