В 1927 году Зиап в знак протеста против несправедливостей, чинимых (или якобы чинимых) властями, вместе с остальными учащимися лицея принял участие в акции неповиновения “долой школу”. Затея школьников представляла собой “детский крестовый поход” и, как и то давнее мероприятие более чем семисотлетней давности, быстро сошла на нет. Зиапа выгнали из лицея, и молодому человеку пришлось отправиться домой, в родную деревню. Как-то навестить Зиапа в Ан-Кса заехал один его товарищ из Хюэ. Они долго беседовали о политике и о революции. Прежде чем друзья простились, Зиап стал членом партии Таи-Вьет, созданной для того, чтобы “…осуществить сначала революцию в своей стране, а затем понести ее за пределы Вьетнама всему миру”‹6›. Хотя Тан-Вьет не являлась коммунистической организацией, члены ее в значительной степени сочувствовали идеям марксизма.
Вскоре после того разговора Зиап, которому на тот момент исполнилось уже шестнадцать, вернулся в Хюэ, активно включился в подпольную работу и оставался в рядах Тан-Вьет до 1930 года. Весной Тан-Вьет вместе с другой группой сторонников самоопределения, называвшейся Вьет-Нам-Куок-Дан-Данг, приняла участие в закончившемся поражением восстании против французского владычества. Зиап был арестован, предан суду и приговорен к трем годам лишения свободы. Сколько времени он провел за решеткой в действительности, неизвестно. Как уверяет сам Зиап, он находился в заключении в течение двух лет. Согласно же другим сведениям, он вышел из тюрьмы уже через несколько месяцев. В любом случае Зиап всегда избегал публичного обсуждения своей жизни и деятельности в период с 1930 по 1932 год. Так или иначе, время это не было потрачено Зиапом впустую, ибо в тюрьме его ждало приятное романтическое приключение. В заключении он познакомился с молодой революционеркой по имени Минь Тай, ставшей впоследствии его первой женой.
Так или иначе, к 1932 году французы по тем или иным причинам сочли Зиапа исправившимся. Ему было позволено закончить образование в Хюэ, после чего он перебрался в Ханой, где находился лучший из университетов страны, куда Зиап и поступил в 1933-м. В 1937-м он закончил университет и стал дипломированным юристом. Однако в следующем году ему не удалось получить разрешение на занятие административным правом, равно как, согласно многим источникам, он также не смог стать доктором юридических наук. В имеющейся в распоряжении американских военных биографии Зиапа говорится, будто бы он добился аналогичной степени в области обществоведения, между тем другими источниками данный факт не подтверждается.