Таково было состояние страны в продолжение всего этого царствования. Однако император хотел быть справедливым. В душе его, наряду с капризами и беспорядочными вспышками, жило глубокое чувство справедливости, часто внушавшее ему поступки, достойные похвалы.
Случалось не раз, что, подвергнув кого-нибудь всё усиливающимся жестоким гонениям, он вновь призывал к себе такого человека, обнимал его, почти просил у него прощения, сознавался ему, что ошибся, что подозревал его несправедливо, и осыпал его новыми щедротами, чтобы загладить свою вину. Страх, так часто испытываемый им самим, он внушал и всем чиновникам своей империи, и эта общая устрашённость имела благодетельные последствия.
В то время как в Петербурге в центре управления общая неуверенность в завтрашнем дне терзала и волновала все умы, в провинциях губернаторы, генерал-губернаторы и все военные, боясь, чтобы злоупотребления, которые они позволяли себе, не дошли до сведения императора и чтобы в одно прекрасное утро, без всякого разбора дела, не быть лишённым места и высланным в какой-нибудь из городов Сибири, стали более обращать внимания на свои обязанности, изменили тон в обращении с подчинёнными, избегали позволять себе слишком вопиющие злоупотребления. В особенности могли заметить эту перемену жители польских провинций, и царствование Павла ещё и до сих пор в наших местах называют временем, когда злоупотребления, несправедливости, притеснения в мелочах, необходимо сопровождающих всякое чужеземное владычество, давали себя чувствовать всего слабее.
Первой и, без сомнения, одной из наиболее великодушных мыслей Павла, по восшествии на престол, было решение освободить польских узников.
Подобно своему отцу, посетившему в тюрьме Иоанна VI, он отправился сам к Костюшко, осыпал его заботами и вниманием, сказал ему, что если бы он царствовал в то время, то не согласился бы на раздел Польши, что он сожалеет о совершении этого несправедливого и неполитического акта, но что теперь, когда раздел совершился, не в его власти уничтожить этот акт, и он должен его поддерживать.
По просьбе Костюшко, император освободил одного за другим и всех остальных заключённых, потребовав, чтобы они принесли присягу в верности.
Исключение было сделано только для графа Игнатия Потоцкого. Прежде чем освободить его, потребовали ручательства за его поведение от всех поляков, находившихся в Петербурге.
Каждый раз, когда императору приходилось оставлять без исполнения ходатайства Костюшко о его соотечественниках, он извинялся перед Костюшко, указывая на то, что вынужден был считаться с представлениями министров, которые мешали ему следовать влечению сердца. Костюшко, подавленный грустью, покрытый ещё не залеченными ранами, ослабевший, носивший тогда на своём лице выражение потерянной надежды и трогательной покорности Провидению, полный угрызений совести в том, что продолжает жить, не сумев спасти Отечество, — не мог, конечно, ввиду такого состояния внушать императору никакого страха и подозрений. Он мог лишь интересовать императора своею личностью и внушать ему симпатию. Император часто посещал Костюшко в сопровождении всей императорской фамилии, оказывавшей генералу внимание, я сказал бы, почти искреннюю нежность.