Рассказ был написан 16 марта 1881 года в Усмани. В списке "Предполагаемых очерков из "Записок Степняка" Эртель отметил под XXVI номером рассказ, названный им тогда "Мельник и мельничиха", и указал, на реальные прототипы героев рассказа: "Дм[итрий] Федорович] Скляднев и Ольг[а] Мих[айловна] Гостеева". В качество примечания Эртель отметил: "Это можно разделить на два очерка: «Мельничиха» и "Дубоватская мельница". Но, как мы видим, Эртель впоследствии отказался от этого разделения и в «Криворожье» вывел типы «хищников» — мельника и мельничихи.
В редакции "Вестника Европы" рассказ «Криворожье» был встречен положительно. "Все три последние ваши рассказа, — писал 27 апреля 1881 года Пыпин Эртелю, — очень характерны — и мельник в Криворожье, с супругой-стервой, одаренной славянофильским красноречием; и Жолтиков, и Поплешка. Все три — ко времени…" (ф. 349, папка XVII, № 8).
В журнале "Вестник Европы" рассказ был напечатан с посвящением И. С. Тургеневу. В отдельном издании посвящение было снято.
Рассказ был написан в Усмани; в своей записной книжке Эртель помечает дату его написания — 1881 год, 30 марта. В архиве Эртеля сохранились черновые наброски, из которых мы узнаем, что первоначальное название рассказа было «Почившие» и имя героя было иным. Вот как начинался рассказ: "Когда мне случилось однажды вместо хутора прозимовать в одном уездном городке, с особенным удовольствием узнал я, что хозяин мой Ва-вила Агафоныч, по-уличному «Пехтерь», человек почивший, или, {580} по-западному, «рантьер» (ф. 349, папка 1, ед. хр. 4/к). Потом Эртель отбросил это начало, остановившись на знакомом нам по печатному тексту, и изменил имя героя. В редакцию "Вестника Европы" рассказ был послан под названием "Oxalis tropaeloides".
Рассказ о русском «рантье», о человеке-паразите, живущем на доходы от ценных бумаг, понравился А. Н. Пыпину. Но название рассказа вызвало его возражение. Судя по письму Пыпина к Эртелю от 27 апреля 1881 года, мы можем говорить о том, что Эртель переменил заглавие "Oxalis tropaeloides" на «Жолтиков», в соответствии с желанием А. Н. Пыпина.
В. И. Ленин в своем труде "Империализм, как высшая стадия капитализма" в VIII главе "Паразитизм и загнивание капитализма" писал: "Империализм есть громадное скопление в немногих странах денежного капитала… Отсюда необычайный рост класса или, вернее, слоя рантье, т. е. лиц, живущих "стрижкой купонов", — лиц, совершенно отделенных от участия в каком бы то ни было предприятии, — лиц, профессией которых является праздность" (В. И. Ленин. Сочинения, т. 22, стр. 263).