Ко времени назначения Гувера директором Бюро расследований располагало приблизительно 650 служащими, включая 441 специальных агентов, работающих в полевых офисах в девяти городах. К концу десятилетия имелись приблизительно 30 полевых офисов с региональными штабами в Нью-Йорке, Балтиморе, Атланте, Цинциннати, Чикаго, Канзас-Сити, Сан-Антонио, Сан-Франциско и Портленде.
Гувер немедленно уволил агентов, потерявших квалификацию, и взял курс на профессионализацию Бюро. Например, было отменено правило льгот за выслугу и введена единая система оценки работы. Также стали регулярно проводиться инспекции во всех полевых офисах. С января 1928 года установлен обязательный курс обучения для новых агентов; был установлен возрастной критерий приема: 25—35 лет. Одежда, обувь, внешний вид и физические кондиции агентов строго контролировались, — а о «перекосах» в этом направлении мы расскажем немного позже.
К концу тридцатых годов численность служащих «второй линии» увеличилась почти вчетверо, а оперативников, специальных агентов — чуть больше чем вдвое (до 654 человек). Отделения открылись в 42 городах.
Гувер уволил коррумпированных агентов, а также тех, кто не приносил никакой пользы, и закрыл более двадцати отделений. Пять лет вместо расширения штатов он сокращал их, оставляя только лучших, и принимая на работу людей, которые отвечали самым жестким требованиям. С помощью хорошо разработанной системы инспектирования постоянно контролировались успехи, усердие и развитие характера агентов. Эта система постоянного контроля, также как ротации, действует до сих пор и хотя на определенных этапах вызывала «бюрократизацию» джи-менов и справедливые нарекания, во многом определяет сравнительную «чистоту» и независимость ФБР в отношениях с администрацией и, шире, элитой на низовых уровнях.
В своем письме к руководителям служб, датированном маем 1925 года, Гувер выдвинул требования: «Я принял решение увольнять без предупреждения того служащего, о котором я узнаю, что он при исполнении обязанностей принимал алкогольные напитки. Сам я не употребляю алкогольных напитков. От своих чиновников на внешней службе я не требую ничего такого, чего не требую от самого себя». И действительно, во времена «сухого закона» Гувер беспощадно выгонял агентов, замеченных «под мухой». Позже вне службы агентам разрешалось выпивать не более двух коктейлей.
Всегда в точно назначенное время джи-мены должны были быть на поверке; Гувер сам работал ежедневно по шестнадцать часов.
В течение всей своей жизни Гувер оставался холостяком, и даже как-то публично высказал сожаление о том, что целибат — безбрачие, — нельзя включить в моральный кодекс ФБР. За внебрачный секс карали так же строго, как за пьянство — чаще всего это было немедленное увольнение. Пару разнополых агентов Ноксвильского отделения, которые развлекались прямо в служебном кабинете, изгнали с позором, — но и всех остальных сотрудников этого отделения тоже наказали, разогнали по всей Америке, от Флориды до Аляски.