На работу в органы правопорядка Леонид Рассказов пришел 22-летнем парнем и сразу же проявил себя как дотошный и умный сотрудник с ярко выраженными способностями эксперта. Милицейская криминалистика в те годы делала лишь первые шаги. В марте 1919 года при Центророзыске НКВД РСФСР появился кабинет судебной экспертизы, ставший, по сути, первым экспертно-криминалистическим подразделением советской милиции. В следующем году научно-технический кабинет был создан при Петроградском уголовном розыске. Затем аналогичные учреждения стали появляться и в других городах республики. В течение 1920‐х годов кабинеты экспертизы заработали в Ростове-на-Дону, Самаре, Царицыне, Воронеже, Рязани.
В июле 1921 года, в связи с реорганизацией уголовного розыска в стране, Кабинет экспертизы Центророзыска был упразднен, а на его базе создан Научно-технический подотдел Отдела уголовного розыска Главного управления милиции НКВД РСФСР. В 1922 году подотдел был преобразован в Научно-технический отдел. Вот в этом подразделении и служил молодой милиционер Рассказов. В короткие сроки он освоил дактилоскопию и учетно-регистрационную работу столь хорошо, что его как опытного специалиста стали направлять в другие города и веси, чтобы налаживать там полноценную экспертно-криминалистическую работу. Сначала Рассказов ставит экспертно-криминалистическое дело в Крыму, учит этому ремеслу местных сыщиков. Затем – новая командировка: в Азербайджан, где с апреля по июль 1924 года Леонид Рассказов возглавлял региональное бюро Уголовного розыска республики. Завершив обучение азербайджанских товарищей, Рассказов вернулся в Москву, однако работы в столице по специальности, как ни странно, не нашел.
В течение нескольких лет Рассказов служил в 20-м отделении милиции в должности простого участкового надзирателя. А когда в Костроме в 1928 году был создан кабинет экспертизы, Рассказов сразу же уехал туда, дабы возглавить новое подразделение. За два года работы костромской кабинет экспертизы под чутким руководством Рассказова превратился в одно из лучших экспертных подразделений страны. А сам Рассказов снискал славу выдающегося эксперта-криминалиста. Так что когда в Московском уголовном розыске, наконец, было принято решение создать собственное экспертно-криминалистическое подразделение, с выбором его начальника долго не раздумывали: разумеется, Рассказов. Так Леонид Петрович снова оказался в Москве, да еще и на своем месте – в качестве руководителя экспертной службы знаменитого МУРа. В этом качестве он прослужил долгие годы и вошел в историю отечественных правоохранительных органов как один из основоположников советской криминалистики.