Вспоминая впоследствии эту сторону деятельности Феликса Эдмундовича, один из его друзей с улыбкой сказал:
— Ему хватало времени еще и на то, чтобы быть нашей охраной труда в те нелегкие годы…
Разумеется, Феликс Эдмундович занимался в те годы не только «охраной труда». Он сочетал в себе подлинное бесстрашие с умением вести самое кропотливое, самое неблагодарное дело. Вот он взялся ревизовать партийную кассу. Не зная бухгалтерских тонкостей, он много бессонных ночей провел за подсчетами, установил точную картину финансового положения партийной организации и со свойственной ему пунктуальностью взыскал долги. Работал он в крошечной кухне, даже подушки у него не было. Раз в сутки варил себе кашу на примусе, ежеминутно ожидая налета полиции.
Ему поручили привести в порядок конспиративный партийный архив. И он выполнил это не очень легкое поручение с таким же блеском, с каким провел до этого бухгалтерскую ревизию.
У него был свой уникальный метод составления шифрованных писем. По ночам он шифровал своим бисерным почерком сотни писем. Ни одно из этих писем охранке не удалось прочесть.
Конспиратор он был безупречный, скрупулезный, Никто, даже самый близкий, самый достойный доверия друг, не мог узнать больше того, что непосредственно его касалось.
Дзержинский был абсолютно непримирим к тем, кто нарушал правила конспирации. Необыкновенно добрый, он не прощал даже малейшей ошибки, которая могла нарушить конспирацию и, следовательно, навредить партии.
Больше всего на свете этот совсем еще молодой человек любил детей. Где бы он ни жил, где бы ни скрывался, он всегда собирал вокруг себя ребят.
Софья Сигизмундовна вспоминает, как Дзержинский писал однажды за столом, держа на коленях малыша, что-то сосредоточенно рисующего, а другой малыш, вскарабкавшись сзади на стул и обняв Дзержинского за шею, внимательно следил за тем, как он пишет. Вся комната, набитая детьми, гудела, здесь, оказывается, была железнодорожная станция. Дзержинский с утра собрал детей, понастроил поездов из спичечных коробок, а потом уже занялся своим делом.
Дзержинский умел любить чужих детей. Этот человек, начисто лишенный сентиментальности, писал еще в 1902 году своей сестре Альдоне: «Не знаю, почему я люблю детей так, как никого другого. Я никогда не сумел бы так полюбить женщину, как их люблю. И я думаю, что собственных я не мог бы любить больше, чем несобственных. В особенно тяжелые минуты я мечтаю о том, что я взял какого-либо ребенка, подкидыша, и ношусь с ним, и нам хорошо…»
Из другого письма:
«Я встречал в жизни детей, маленьких, слабеньких детей, с глазами, речью людей старых, — о, это ужасно! Нужда, отсутствие семейной теплоты, отсутствие матери, воспитание на улице, в пивной превращает этих детей в мучеников, ибо несут они в своем молодом маленьком тельце яд жизни — испорченность. Это ужасно!»