Стимсон осознал свою ошибку и предложил компромиссное решение. Вся дешифровальная работа будет прекращена немедленно. Тем не менее сотрудникам Шифровального бюро будет выплачиваться зарплата вплоть до 31 октября 1929 года. Идо этого же срока будет продлена аренда здания, в котором они размещались. Ярдли получит почетную отставку из военного министерства и будет зачислен резервистом службы связи военной разведки. Ему выдадут на руки льстивое письмо, выражающее сожаление по поводу его ухода и содержащее упоминание о его выдающихся достижениях, а также благодарность «за длительную и безупречную службу в рядах вооруженных сил США».
Ярдли был вызван в Вашингтон. Там он выслушал официальное уведомление о решении, приятом Стимсоном. Потом Ярдли обменялся прощальными рукопожатиями с сотрудниками государственного департамента, с которыми ему довелось тесно общаться в процессе исполнения своих служебных обязанностей в Шифровальном бюро.
В июле 1929 года в дешифровальной службе войск связи состоялось совещание, на котором среди прочих вопросов обсуждалась дальнейшая судьба Ярдли. Один из участников этого совещания выступил с идеей о том, чтобы предложить Ярдли работу в дешифровальной службе с жалованьем значительно ниже того, которое он получал на посту начальника Шифровальной службы. Ярдли от предложения отказался. Он был уверен, что учрежденная им компания по продаже коммерческих шифров и операции с недвижимостью позволят ему продержаться на плаву, пока он не найдет для себя что-нибудь более прибыльное.
31 октября 1929 года Шифровальное бюро приказало долго жить. Не было ни похоронных речей, ни эпитафий, ни панегириков. Окончательно распалась узкая группа единомышленников, которые в течение целого десятилетия общими усилиями успешно взламывали иностранные шифры и читали перехваченные шифровки. На ее существование ежегодно выделялась сумма в размере не более одной сотой от суммарного бюджета государственного департамента и военного министерства США. Главным достижением Ярдли и его подчиненных в Шифровальном бюро стала дипломатическая победа США над Японией на Вашингтонской конференции. Благодаря ей Япония не смогла построить столько военных кораблей, сколько хотела. Отношения между США и Японией приняли более спокойный характер. В результате США сэкономили миллионы долларов за счет того, что им не пришлось участвовать в гонке морских вооружений с Японией. США получили возможность потратить сэкономленные средства на улучшение благосостояния своих граждан. Уже одно это обстоятельство с лихвой оправдало все затраты на существование Шифровального бюро.