А потом фронтового разведчика мобилизовали в ЧК. До июля 1921 г. он работал в Витебской губернской ЧК и насмотрелся там всякого. И не только насмотрелся. Нравы чекистов были тогда весьма просты и грубы. Когда один из коллег Борового был за что-то расстрелян, председатель губчека Иван Кадушин разрешил молодому оперативнику взять себе сапоги казнённого. Сапоги, надо думать, оказались хороши. По крайней мере, так показалось некоторым обносившимся чекистам, которым тоже было интересно получить обувку. Разве мог себе представить 23-летний Исаак Боровой, что сдёрнутые с трупа сапоги шесть лет спустя приведут к долгим объяснениям в высшем партийном синклите, а ещё через четверть века станут для него добавкой лишних месяцев унизительного положения политического ссыльного… Но об этом позже.
С 1921 по август 1924 г. Боровой работал в Закавказской ЧК в Тифлисе. Как нередко случалось с чекистами тех лет, он был на некоторое время уволен из «органов», но потом вновь вернулся к прежней работе. Уйдя из ОГПУ, Боровой в 1925–1928 гг. трудился в Москве на очень неплохой должности партследователя Центральной контрольной комиссии ВКП (б) и занимался расследованием грешков и откровенных преступлений своих товарищей по партии. Правда, и его самого пытались обвинить в «некоммунистическом поведении», но без особого успеха. Довольно логичным образом контролёра вернули в самую главную контролирующую организацию, но уже не для борьбы с врагом внутренним. В 1928 г. Борового взяли в ОГПУ и устроили в аппарат Иностранного отдела.
Для разведчика начались годы работы за рубежом, о конкретном содержании которых пока практически ничего не известно. Только из материалов позднейшего судебного дела можно понять, что Боровой недолго входил в курс дела и быстро оказался за границей. С 1929 по 1931 гг. он работал под «крышей» секретаря советского торгпредства в Турции.
Служба резидента советской политической разведки шла успешно. К 1938 году И. И. Боровой вырос до поста начальника отделения Иностранного отдела НКВД СССР, причём дело обернулось так, что на него даже в годы террора не нашлось никакого приличного компромата. Но избежать репрессий, выкосивших три четверти аппарата внешней разведки, ему не удалось. Арестован 2 декабря 1938 г. Боровой был по ордеру № 2415, подписанному Берией. Обвинение стандартное: шпионаж. Что до санкции прокурора, то она была получена лишь в феврале следующего года.
Скорее всего, Боровой был арестован по личному желанию Берии. По крайней мере, нарком внутренних дел не погнушался принять личное участие в следствии по делу известного разведчика. На допросе 10 декабря 1938 г., который велся Берией, Меркуловым и Деканозовым, Боровой после жестоких побоев признал шпионскую деятельность и показал, что якобы был завербован своим начальником С. М. Шпигельглазом в пользу японской разведки.