Первые три танковые дивизии были сформированы, соответственно, в Веймаре, Вюрцбурге и Берлине. В состав каждой дивизии входили два танковых полка, моторизованный полк, моторизованный артиллерийский полк, саперный батальон, разведывательный батальон, противотанковый дивизион и рота или батальон связи. Некоторым также придавались подразделения военной разведки или картографические части, но при этом отсутствовали какие бы то ни было части обеспечения, технического обслуживания и снабжения. 1-й танковый полк из Цоссена был переброшен в Вюнсторф и стал 5-м танковым полком, а 1-м танковым полком стал бывший 2-й танковый полк в Ордруфе. 2-й, 3-й, 4-й и 6-й танковые полки были сформированы заново на базе бывших 4-го, 7-го и 12-го кавалерийских полков (4-й и 12-й кавалерийские полки к этому времени уже были оснащены танками). В состав 1-й танковой дивизии вошли 1-й танковый полк из Ордруфа (позднее передислоцированный в Эрфурт) и 2-й танковый полк из Айзенаха. В распоряжении 2-й танковой дивизии были 3-й танковый полк в Каменце и 4-й танковый полк в Ордруфе. 3-я танковая дивизия имела в своем составе 5-й и 6-й танковые полки, базировавшиеся, соответственно, в Вюнсдорфе и Нойруппене. Вскоре после этого 3-й, 4-й и 6-й танковые полки были переведены на постоянную дислокацию, соответственно, в Бамберг, Швайнфурт и Нойруппен.
Все три дивизии вошли в состав нового учреждения — Командования танковых войск, которое 27 сентября 1935 года пришло на смену Инспекции механизированных войск. Во главе командования остался Освальд Лутц, получивший повышение и ставший первым генералом танковых войск. Однако, как писал Вернер Хаупт, командование танковых войск было «беспомощным творением, ограниченным рамками надзора за чисто танковыми частями силой до полка». Такая структура стала результатом влияния генерала Бека, который изо всех сил старался сдержать развитие танковых войск. Заодно Бек отправил на повышение Гудериана, назначив его командовать 2-й танковой дивизией, хотя Гудериан был всего лишь полковником (в 1938 году в немецкой армии дивизиями, как правило, командовали генерал-лейтенанты, иногда — генерал-майоры и никогда — полковники). Таким образом, Бек решил держать наиболее активного и влиятельного сторонника танковых войск подальше от Берлина. На должности начальника штаба командования танковых войск Гудериана сменил полковник Фридрих Паулюс, намного более обаятельный и сговорчивый офицер. Однако он также был слабоволен и нерешителен, стараясь ужиться со всеми, и в особенности со старшими генералами, даже если для этого нужно было уступить там, где он был твердо уверен в своей правоте