На рубеже 1927–1928 годов по инициативе тогдашних руководителей украинского ЧК Сергея Барминского и Николая Ханникова при киевском спортобществе «Динамо» была организована футбольная команда. «Желдор», «Совторгслужащие», «Водник», «Работпрос» — наверное, лишь очень подкованные знатоки истории футбола вспомнят названия этих команд. Между тем, именно эти коллективы доминировали тогда среди киевских команд. «Динамо» же, за которое поначалу выступали кадровые работники ГПУ, могло противопоставить более опытным противникам разве что желание играть. Техники и тактического мастерства у непрофессиональных футболистов не было. Однако ситуацию быстро исправили за счет игроков команды «Совторгслужащие» и сборной киевского гарнизона.
17 июля 1928 года на «Красном стадионе» киевское «Динамо» провело свой первый официально зарегистрированный матч. В составе команды играли: вратари Дибнер, Идзковский; защитники Иванов, Дишкант, Станко; полузащитники Мурашов, Пирокети, Васильчиков; нападающие Сильвестров, Гальбурт, Терентьев, Трофимов, Филин, Кофман. Соперниками динамовцев были их одесские одноклубники. Несмотря на невыносимую жару, игра проходила в острой борьбе и завершилась вничью — 2:2. Спустя несколько дней киевляне провели первую игру с командой из Москвы. Встреча киевского и московского «Динамо» закончилась убедительной победой москвичей — 6:2. 14 сентября 1929 года «Динамо» сыграло свою первую международную встречу. В упорном матче, проходившем на «Красном стадионе», киевляне проиграли сборной Нижней Австрии со счетом 3:4.
Как видим, начало пути киевского «Динамо» в большой футбол было отнюдь не гладким. Но прийти фактически ниоткуда и начать сразу выигрывать невозможно, и руководство клуба это прекрасно понимало. «Кадры решают все!» — этот знаменитый сталинский призыв к футболу отношения не имел, но именно разумная кадровая политика позволила динамовскому клубу выйти в лидеры украинского футбола. В команду был приглашен Михаил Давыдович Товаровский, один из первых профессиональных тренеров в СССР, а также опытные игроки из других клубов. К началу 1930-х киевское «Динамо» фактически стало сборной города. И результат не заставил себя долго ждать. В финальном матче первенства Украины 1932 года сборная Киева, в составе которой было восемь динамовцев, сенсационно переиграла харьковчан со счетом 3:1. Впервые за 12 лет чемпионский титул завоевала сборная Киева, а не харьковская команда.
Первые успехи совпали со страшными временами голодомора в Украине. Хоть и получали футболисты спецпайки, однако тем, у кого были семьи, их не хватало. Чтобы спасти игроков (в прямом смысле слова), руководитель команды Лазарь Коган организовал в 1933 году закавказское турне команды «Динамо» по маршруту Баку — Эривань (Ереван) — Тифлис (Тбилиси). Во время переезда из Баку в Эривань поезд, в котором ехали динамовцы, пошел под откос. Футболисты чудом не пострадали, однако трое суток им пришлось ждать, пока шел ремонт железнодорожного полотна. Естественно, что о пропитании футболистов никто не заботился. Когда динамовцы наконец-то добрались до армянской столицы, на них смотрели как на выходцев с того света… Хочется, чтобы нынешнее поколение футболистов, особенно молодых, которые иногда хотят получить все сразу и в один момент, помнили о тех, с кого начиналась славная история киевского «Динамо», и том, в каких условиях им приходилось жить и играть.