1921 год стал переломным в жизни Павла Судоплатова. К этому времени 44-я стрелковая дивизия была переведена в город Житомир, являвшийся тогда центром Волынской области. В политотделе дивизии обратили внимание на молодого смышленого красноармейца с приличным по тем временам образованием и решили направить его в Киев на ускоренные курсы политработников.
Павел дал согласие на учебу, однако стать политработником ему не довелось. При выполнении оперативного мероприятия сотрудники Особого отдела дивизии попали в засаду, устроенную украинскими националистами. Многие из чекистов погибли. «В Особом отделе, понесшем тяжелые потери, — рассказывал позже Судоплатов, — срочно потребовался телефонист, он же — шифровальщик. Так я был послан на работу в органы государственной безопасности. Это было началом моей службы в ВЧК — КГБ.
В дивизии, где я служил, вместе с нами сражались поляки, австрийцы, сербы и даже китайцы. Последние были очень дисциплинированны и дрались до последней капли крови. Борьба шла жестокая, и случалось, что целые деревни оказывались уничтоженными украинскими националистами и бандформированиями: всего в ходе гражданской войны на Украине погибло свыше миллиона человек. Мое поколение вскоре привыкло к жестокостям этой войны, потерям и лишениям. Мы считали все это вполне естественным. В состоянии войны страна находилась с 1914 года, и трагедия России заключалась в том, что до самого конца Гражданской войны, то есть до 1922 года, создать стабильное общество, опирающееся на нормальные, гуманистические ценности, не представлялось возможным».
Как нам представляется, здесь необходимо отметить, что Особый отдел ВЧК был образован в январе 1919 года под руководством видного революционера Михаила Кедрова. Подчиненные ему особые отделы создавались при всех фронтах, армиях, дивизиях, а также в губернских ЧК. Они занимались выявлением вражеской агентуры в Красной армии, ее штабах, на фронтах и в тылу, борьбой с саботажем и диверсиями на железных дорогах, в продовольственных и других организациях, имевших отношение к обороне республики. Поскольку в годы Гражданской войны советское правительство привлекло на службу в Красную армию до сорока тысяч бывших царских генералов и офицеров, среди которых оказалось немало белогвардейских агентов, сотрудники особых отделов выявляли их, тайно внедряясь в штабы Красной армии и вербуя осведомителей в армейских частях. О их принадлежности к особым отделам знал ограниченный круг лиц. Сотрудники особых отделов вели также разведку за линией фронта и в ближайшем тылу, внедрялись в белогвардейские организации и в штабы армий интервентов, так как в тот период в ВЧК еще не было Иностранного отдела. Особисты входили в состав военных трибуналов РККА, рассматривавших дела об измене и вредительстве, а также «в отношении всех преступлений, направленных против военной безопасности Республики».