Шумский и тут не удержался, начал пьянствовать и буянить.
Его спровадили в Дымский монастырь и оттуда перевели в Соловецкий. Как и везде, сначала он повел себя примерно, нашел даже себе дело, занялся крепостной монастырской артиллерией, привел её в порядок и смотрел за ней. Его там полюбили, сделали даже письмоводителем, но он не мог оставить своей несчастной склонности к вину.
Его перевели в один из скитов монастыря, где он, под строгим надзором, наконец, исправился совершенно. До конца жизни своей он получал триста рублей пенсии и в последние годы своей жизни все деньги раздавал братии, неимущим, а сам вел очень суровую, строгую жизнь.
Он умер в 1857 году.
Дело об убийстве жены полковника Зои Никитишны Хвостовой, рожденной Белоглазовой, после долгого хождения по разным судебным инстанциям было прекращено, за неразысканием виновных, или, выражаясь языком закона того времени, «предано воле Божьей» и до сих пор хранится в одном из новгородских архивов.