Составители военных сообщений повсеместно считали, что заботиться об обеспечении секретности связи должны были криптографы. Поэтому эти сообщения начинались со стереотипных фраз типа «Касательно Вашей телеграммы № 1234…» или «Командиру дивизии…». Это позволяло дешифровальщикам угадывать значения первых нескольких кодовых слов перехваченной шифровки, облегчая взлом вражеского военного кода. Зная об этом, Ковалевский научил японских шифровальщиков делить сообщение на несколько частей, нумеровать их, менять местами и только после этого шифровать. На некоторое время этот прием замедлил работу дешифровальщиков из Шифровального бюро. Однако после того, как они разобрались, в чем дело, и научились отыскивать в тексте шифровки кодовые индикаторы, чтение японской военной шифрпереписки в Шифровальном бюро продолжилось в прежнем темпе.
На основе японских дешифровок в Шифровальном бюро составлялись разведывательные сводки. Они не содержали упоминаний о том, откуда была получена информация, начинались со слов «Как стало известно из надежного источника…» и далее своими словами пересказывали содержание прочитанных сообщений. Ярдли отсылал подготовленные разведывательные сводки ответственному чиновнику в государственном департаменте.
Будучи руководителем правительственного учреждения, которое переживало не лучшие времена, Ярдли приходил на работу примерно на час. Он поселился в одном из пригородов Нью-Йорка. Проживавшие там люди образовали закрытое сообщество, в котором не было места неграм и евреям. Самому Ярдли нравилось, что все его соседи носили «удобопроизносимые имена и фамилии». В свободное время, которого у Ярдли теперь было в избытке, он занялся операциями с недвижимостью. Иногда ему удавалось удачно спекулировать на разнице цен на недвижимость. Помимо этого, Ярдли подрабатывал в качестве консультанта по коммерческим кодам и вместе с Мендельсоном получал доход от торговли «Универсальным коммерческим кодом».
Однако теперь Ярдли уделял меньше внимания Шифровальному бюро, и это не замедлило неблагоприятно сказаться на результатах его работы. В конце 1920-х годов разведывательные сводки, которые каждые несколько дней готовило Шифровальное бюро, состояли из небольшого количества дипломатических сообщений, главным образом – японских. На их чтение уходило слишком много времени. Например, японская шифровка от 26 февраля 1929 года была прочитана только 2 ноября 1929 года. Справедливости ради следует отметить, что добывать дипломатические телеграммы было довольно трудным делом, да и обстановка в мире была относительно спокойной. Тем не менее число прочитанных шифровок в Правительственной криптографической школе Англии и Шифровальном отделении Германии исчислялось десятками, а то и сотнями в месяц, в отличие от Шифровального бюро, которое могло похвастаться лишь единицами. Как написал один немецкий дешифровальщик: «После окончания Первой мировой войны в мире не было ни одной невскрываемой криптосистемы… Их взлом был… только вопросом времени и зависел от объема накопленного перехвата и номенклатуры криптографических компонентов, с одной стороны, и количества имевшихся в наличии дешифровальщиков, с другой». В это же самое время по всему миру наметился переход от нестойких кодов к невскрываемым шифровальным машинам. В Германии, США и Швеции изобретатели уже вовсю предлагали такие машины. Вскоре их первые экземпляры поступили на вооружение имперского военно-морского флота Германии и военно-морских сил США. Но Ярдли не проявлял к ним интереса. Он не пытался их взломать и не рассматривал в качестве перспективного варианта для использования американскими военными и дипломатами. Более того, зная о слабости дипломатических кодов США и считая, что они примерно соответствовали уровню шестнадцатого века, Ярдли не предложил ничего взамен, дабы улучшить положение дел в области криптографии в государственном департаменте. Ярдли значительно больше интересовали дела на стороне, приносившие ему значительный денежный доход, чем основная работа в Шифровальном бюро, которая только отвлекала его от зарабатывания денег. В результате в конце 1920-х годов Ярдли начал ощутимо сдавать свои позиции. А вместе с ним и его Шифровальное бюро.