Ювелирный промысел отец восьми детей прекрасно совмещал с революционной деятельностью. В 1904 году полиция внезапно нагрянула с обыском и обнаружила подпольную типографию. Домовладелец сумел выкрутиться, свалив все на квартирантов из числа большевиков. Это не спасло от потерь. В 1905 году на баррикадах Сормова сложил голову старший брат Генриха Ягоды — Михаил. А в 1916 году на фронте расстреляли его младшего брата Льва — тот отказался идти в бой.
Самому Генриху тоже была уготована недолгая жизнь. Страдал он туберкулезом и малокровием, а еще в 1907 году пятнадцатилетнем подростком примкнул к нижегородским анархистам-коммунистам. Через год его поймали, но вскоре отпустили. По всей видимости, полиции о подростке сообщил лидер нижегородских анархистов-коммунистов — Иван Алексеевич Чемборисов, который совмещал политическую деятельность с тайным сотрудничеством с Департаментом полиции.
Опасных для Российской империи затей Генрих Ягода не бросил: неплохо освоил скупку и перепродажу динамита, ездил в Москву за «пудом гремучего студня» и вынашивал планы ограбления банка в Нижнем Новгороде. Одновременно он поддерживал связь с эсерами. Его партийные клички той эпохи: Темка, Сыч и Одинокий.
В 1912 году Генриха Ягоду задержали в Москве: будучи евреем, он не имел права жить в Москве и поселился там по подложному паспорту, оформленному на имя некого Галушкина у своей сестры Розы — члена партии анархистов. Жандармы отметили, что молодой человек имел намерение перейти в православие и устроиться на работу в старой столице. Как и его отец, он сумел выйти «сухим из воды». Суд приговорил его к двум годам ссылки в Симбирск, где у деда был свой дом.
Амнистия по случаю трехсотлетия дома Романовых позволила Генриху Ягоде в 1913 году не только вернуться из ссылки, но и поселиться в Петербурге. Для этого ему пришлось принять православие и формально отказаться от иудаизма. Хотя теперь у него появилась новая вера — коммунизм.
Сложно сказать, сам ли он примкнул к большевикам или надоумили отец с братьями, но с осени 1913 года он трудился статистиком и сотрудничал с легальным партийным журналом «Вопросы страхования». В этом ему помог троюродный брат Яков Свердлов.
В 1915 году Генриха Ягоду мобилизовали на войну. В отличие от своего брата Льва Генрих не стал демонстрировать «пацифистских» убеждений. Он дослужился до ефрейтора 20-го стрелкового полка 5-го армейского корпуса, а осенью 1916 года был ранен и демобилизован.
Вернувшись в Петроград, с головой ушел в революцию, работал в военной организации большевиков и Петроградском совете, поучаствовал и в захвате власти в октябре 1917 года в Москве. С ноября 1917 года по апрель 1918 года — ответственный редактор газеты «Крестьянская беднота».