Тем же приказом в составе общевойсковых и ударных армий создавались штрафные роты, в составе фронтов — штрафные батальоны. Штрафные роты подчинялись непосредственно командующим армиями. Каждая армия могла иметь до десятка и более таких рот. Например, в 1942 году 54-я армия имела в своем составе десять штрафных рот; в том же году 63-я армия (преобразованная в 1-ю гвардейскую армию 1 ноября 1942 года) имела в своем составе одиннадцать штрафных рот.
Штрафные батальоны изначально создавались в составе фронтов и подчинялись командующим фронтами. Но вскоре их стали создавать и в составе армий. Например, в 1943 году 56-я армия, помимо штрафных рот, имела в своем составе семь штрафных батальонов.
Штрафные части имели постоянный и переменный состав. Постоянный состав — это командиры взводов, рот, батальонов и их заместители, офицеры штабов, старшины рот, медицинский персонал. На командные должности назначали храбрых, грамотных, волевых офицеров. Служба тяжелая и рискованная, но она высоко ценилась командованием и щедро оплачивалась. Успешная служба в этих особых частях становилась трамплином в карьере командира, прямой дорогой к высоким командным должностям.
Командиры штрафных подразделений и частей пользовался огромной властью. Они имели право применять к подчиненным все меры воздействия, вплоть до расстрела на месте за невыполнение приказа, членовредительство, побег с поля боя, попытку перехода к врагу. «Командир и военный комиссар штрафной роты по отношению к штрафникам пользовались властью командира и военкома дивизии» (Красная звезда. 11-17 апреля 2007 г.).
Должностные категории постоянного состава штрафных частей были на ступень выше, чем в обычных частях: командир взвода — капитан, командир роты — майор, командир батальона — полковник. Кроме того, в каждом взводе был не один офицер, а два. Помимо командира взвода — еще и заместитель. Штатная категория заместителя командира взвода — старший лейтенант.
Всему постоянному составу штрафных частей каждый день службы засчитывался за шесть. Отслужи год — шесть запишут. Если жив будешь. Срок выслуги в званиях для офицеров сокращался вдвое, денежное содержание увеличивалось вдвое (Красная звезда. 11-17 апреля 2007 г.).
Офицеры постоянного состава штрафных рот и батальонов, завершив службу в этих особых частях, получали неслыханное повышение. Для командиров штрафных рот следующей должностью была должность командира полка, для командиров штрафных батальонов — должность командира дивизии. Это было обычной практикой; например, командир 8-го отдельного штрафного батальона 1-го Белорусского фронта полковник А. Осипов, сдав батальон, получил дивизию (Красная звезда. 2 апреля 2005 г.).