В ЧНР был одним из самых активных и влиятельных людей в раде (если не самым), четко придерживался линии на освобождение Праги исключительно силами Красной Армии, всячески препятствовал «прозападным» действиям остальных членов этого чехословацкого «временного правительства», просуществовавшего в своем изначальном составе лишь несколько дней в мае 1945 года.
С 1945 по 1951 год являлся членом Центрального комитета КПЧ, с 1946 года одновременно и депутатом Народного собрания – парламента. «Грехи» пражского договора о свободном проходе немецких войск и приписываемого ЧНР сотрудничества с РОА в дни Пражского восстания были прощены Смрковскому за активное участие в переходе власти к КПЧ в 1948 году (так называемый «февральский переворот»), при котором он руководил «народной милицией» – фактически партийными вооруженными силами КПЧ. Впоследствии являлся заместителем министра сельского хозяйства Чехословакии.
В 1951 году Йозеф Смрковский был неожиданно арестован и осужден на 15 лет заключения за антигосударственную деятельность, хотя весь этот процесс и само обвинение являлись лишь грубо сфальсифицированным продуктом внутрипартийной борьбы, теперь уже между лидерами чешских коммунистов. В ходе следствия подвергался давлению, шантажу и даже пыткам, но вину свою тем не менее так и не признал. После ревизии его процесса спецкомиссией ЦК КПЧ Смрковский вышел на свободу, отсидев 4 года из положенных 15, так как в деле «были найдены процессуальные ошибки». Тем не менее ни восстановления в партии, ни признания его невиновным после освобождения не состоялось.
После заключения Смрковский возвращается к сельскому хозяйству. В роли сначала заместителя, а потом и председателя колхоза в Павловицах у г. Чешска Липа за время с 1956 по 1961 год Смрковский превратил свое хозяйство из безнадежно отсталого в преуспевающее, а сами Павловице в 1961 году стали показательной деревней года в стране. В 1963 году был полностью реабилитирован. В 1967–1968 годах у Смрковского снова начинается резкий служебный рост – он становится членом ЦК КПЧ, а также министром водного и лесного хозяйства. В апреле 1968 года Йозеф Смрковский становится председателем Народного собрания Чехословакии, что является пиком его политической и партийной карьеры. Так как в 1968 году он был одним из главных сторонников либеральных реформ внутри КПЧ, а также в политическом устройстве Чехословакии, после известных событий августовского путча, ввода в страну войск Варшавского договора и впоследствии прихода к власти нового, строго просоветски настроенного Генерального секретаря КПЧ Густава Гусака, карьера Смрковского, одного из последних «довоенных» деятелей в руководстве страны, на этом заканчивается, из коммунистической партии его вторично исключают в 1970 году.