Они были вооружены короткой 76,2-мм пушкой Л-11 образца 1938 года с длиной ствола 30,5 калибра.
В 1941 г. очень небольшое количество Т-34 было вооружено 57-мм длинноствольной пушкой большой мощности ЗИС-4, предназначенной для поражения легкобронированных целей на больших дистанциях. Большая мощность пушки компенсировала уменьшение калибра. Но Л-11 осталась стандартной пушкой для Т-34 образца 1940 г.
Инженерные разработки располагали более удачной пушкой. Но возникали затруднения бюрократического характера по ее установке.
ОКБ завода № 92 во главе с конструктором В. Грабиным разработало новую 76,2-мм пушку Ф-32. Ее устанавливали на новые тяжелые танки КВ. При стрельбе по бронированным целям из-за более длинного ствола пушка показывала гораздо лучшие результаты по сравнению с Л-11, которой были оснащены танки Т-34 образца 1940 года.
К концу 1940 г. сотрудник ОКБ В. Грабина, П. Муравьев, адаптировал пушку Ф-32 для установки на Т-34 и на ее базе разработал новую пушку (Ф-34 с длиной ствола 42 калибра), значительно превосходящую Л-11. По собственной инициативе В. Грабин и директор завода № 92 А. Елян начали производство Ф-34 вместе с Л-11 и отправили обе пушки на Харьковский завод, занятый изготовлением танков Т-34.
Проектирование орудия началось в 1939 году, пушка представляла собой удлинённый вариант танковой пушки Ф-32 и первоначально предназначалась для вооружения танков Т-28 и Т-35.
Сам Грабин упоминает, что Ф-32 была, по требованию заказчика и против воли проектировщиков, заметно укорочена с ощутимой потерей боевых качеств ради бытовавшего тогда опасения, что танк может цеплять стволом орудия землю.
Это не позволило Ф-32 реализовать все возможности, изначально заложенные в её конструкцию. Проектирование орудия было завершено 15 марта 1939 года, первые испытания орудия, установленного на танке Т-28 прошли 19 октября 1939 года на Гороховецком полигоне.
Однако, от перевооружения танков Т-28 и Т-35 было решено отказаться, и орудие было переназначено на новый танк Т-34, на котором первые стрельбы из пушки Ф-34 были произведены в ноябре 1940 года.
14 ноября 1940 года в НКО был издан приказ № 0320 «О проведении полигонно-войсковых испытаний 76-мм танковой пушки Ф-34 завода № 92, установленной в Т-34», в этот же день заместитель наркома обороны СССР, начальник ГАУ РККА Маршал Советского Союза Кулик утвердил ТТТ на эту пушку.
21–23 ноября 1940 года танк Т-34 с установленной пушкой подвергся интенсивным испытаниям на Гороховецком полигоне МВО (за три дня было произведено 2807 выстрелов).