Первым заместителем начальника и главного конструктора ЦАКБ был назначен Илья Иванович Иванов, а помощниками главного конструктора Дмитрий Емельянович Брилль, Петр Михайлович Назаров, Евгений Георгиевич Рудяк, Дмитрий Иванович Шеффер. Опытные, талантливые инженеры возглавили и конструкторские отделы.
В ЦАКБ в качестве самостоятельного подразделения вошло проектно-конструкторское бюро завода «Большевик». Оно занималось вопросами артиллерийского вооружения для Военно-Морского Флота и береговой обороны. В начале войны по решению правительства это КБ было эвакуировано на сталинградский завод «Баррикады». Там его хотели было расформировать, но мы с таким недальновидным шагом согласиться не могли. Ленинградцы остались самостоятельной конструкторской организацией — КБ -2. Это бюро подчинялось непосредственно директору завода. Когда гитлеровцы подошли вплотную к Сталинграду и возникла угроза захвата города, ГКО принял решение об эвакуации КБ-2 в Сибирь. Теперь же, когда было создано Центральное артиллерийское конструкторское бюро, КБ-2 вошло в его состав. В 1944 году КБ-2 возвратилось в Ленинград и продолжало работать как филиал ЦАКБ.
Главной задачей Центрального артиллерийского конструкторского бюро было проектирование, изготовление и всестороннее испытание новых и усовершенствование существующих образцов всех видов артиллерийского вооружения. На него возлагалась разработка рабочих чертежей, технических условий и прочей технической документации, а также стандартов и нормалей на узлы и детали артиллерийских систем в целях организации в минимальные сроки валового производства принятых на вооружение образцов орудий. Оно же оказывало непосредственную техническую помощь заводам в налаживании такого производства. Все задания и планы работ бюро утверждались наркомом. В установленном порядке через техсовот наркомата представлялись мне и разработанные в бюро проекты и образцы артиллерийского вооружения.
Разместилось ЦАКБ на территории филиала артиллерийского завода, где директором был Б. А. Фраткин. С помощью наркомата обороны создали вблизи завода артиллерийский полигон, на котором отрабатывались и испытывались новые образцы вооружения. Представители бюро поддерживали постоянную в тесную связь с фронтами, что позволяло оперативно учитывать их требования при конструировании и совершенствовании артиллерийских систем.
По-новому были организованы опытно-конструкторские работы в области минометного вооружения. До 1942 года в наркомате не было конструкторского бюро по этому виду вооружения. Работы велись в одном из научно-исследовательских институтов и в конструкторских бюро заводов, изготовлявших минометы, и нацелены были главным образом на обеспечение их серийного производства. Но резкое увеличение выпуска минометов с началом войны, необходимость постоянного совершенствования их конструкции, а также разработка новых образцов минометного вооружения потребовали создания специальной, хорошо укомплектованной опытно-конструкторской организации.