Новым институтом, не имеющим аналогов в зарубежной тюремной практике, была созданная в структуре ГТУ Тюремная инспекция, на которую возлагались обязанности осуществления ревизий местных тюремных учреждений, руководство их деятельностью, а также разработка законодательных проектов.
В 1904 году Д. В. Краинский получает назначение в Черниговскую тюремную инспекцию, где сначала занимает должность помощника губернского тюремного инспектора М. Аммосова.
Чернигов в начале XX столетия из «губернского хутора» (по меткому замечанию баснописца и общественного деятеля Л. И. Глебова) преобразовался в полноценный губернский центр. Его население увеличилось до 33 тысяч человек.
Тюремный инспектор, руководя Тюремным отделением губернского правления, подчинялся ГТУ - как центральному тюремному органу, а также непосредственно губернатору, наделяясь правами вице-губернатора, контролирующего деятельность администрации местных тюремных учреждений. То есть он являлся фактическим руководителем тюремной системы региона.
В его обязанности входило «наблюдение за благоустройством в местах заключения гражданского ведомства, исправительных приютах и колониях и арестных домов, а равно за исполнением всех постановлений закона о порядке содержания арестантов».
К назначению на должность губернского тюремного инспектора предъявлялись высокие профессиональные и морально-нравственные требования. Инспекторы должны были знать законоположения, относящиеся к тюремной части, иметь достаточный опыт в делопроизводстве, знать внутренний тюремный порядок и тюремное хозяйство.
В штат губернской тюремной инспекции входили: губернский тюремный инспектор, его помощник, секретарь и канцелярия в составе двух делопроизводителей, двух их помощников и писцов. Ежегодно каждая губернская тюремная инспекция представляла в ГТУ отчет о проделанной работе (суммируя сведения по всем подотчетным местам заключения) по установленной форме.
Службу в губернской тюремной инспекции Д. В. Краинский успешно совмещал с общественной и попечительской работой. В частности, он возглавлял «Общество покровительства лицам, освобожденным из мест заключения», был почетным членом черниговских детских приютов.
Особенно близкими и теплыми были его отношения с Черниговским отделением Императорского русского музыкального общества, одним из учредителей которого он состоял. В музыкальных классах при отделении учили игре на фортепиано, скрипке, виолончели, духовых инструментах, были классы ансамбля и оркестра, специальной теории и вокала.
Рано овдовев и оставшись с единственной дочерью Ольгой (она родилась 30 июня 1902 года), Дмитрий Васильевич, конечно же, обучал музыке и ее.