Позже по впечатлениям туруханской экспедиции была написана вступительная работа во ВГИК «Концентрат», которую он потом переделал и ставил на сценической площадке.
В июле 1954 года Андрей сдал экзамены и был принят в Институт кинематографии на режиссерский факультет в мастерскую Михаила Ильича Ромма. Среди 15 зачисленных абитуриентов были Василий Шукшин, Юлий Файт, Дина Мусатова (впоследствии она сняла документальный фильм «Три Андрея»), Владимир Китайский, политэмигрантка из Греции Мария Бейку, Александр Гордон, Ирма Рауш. На втором курсе в группу пришел Александр Митта. В разных вариантах ходил анекдот о том, что приемная комиссия, горячо поздравив Ромма с удачным набором, просила двоих не зачислять: бандита и пижона. Нетрудно догадаться, что первым был Шукшин, вторым — Тарковский.
Ромм потом напишет: «Опытный педагог всегда знает, что, если в мастерской два-три очень ярких, талантливых человека, мастерская в порядке».
Невозможно переоценить значение личности Ромма для тех, кто пришел во ВГИК в послевоенные годы в военных шинелях. Его авторитет был абсолютным. Автор фильмов «Пышка» (1934), «Ленин в Октябре», «Ленин в 1918 году» был наделен особой витальной силой, обаянием, способностью к обновлению. Он был современником любого поколения своих учеников. И в 1962 году снял «Девять дней одного года» и «Обыкновенный фашизм» в 1966 году. Как режиссер он шел от классики к дерзанию, т. е. не обычным, а обратным путем. Ромм учил их профессии, человеческому достоинству, порядочности. Он выручал в житейской нужде и отстаивал, закрывал бесстрашно в иных непогодах. Для Андрея же был надежной защитой, хорошо понимая его талантливость и сложный нрав.
Ростоцкий, Теодор Вульфович, Григорий Чухрай, Марлен Хуциев. Всего за два года, 1955–1956, было снято около пятидесяти новых фильмов. В 1957 году Михаил Калатозов с Сергеем Урусевским сняли «Летят журавли», а Я. Сегель с Л. Кулиджановым — «Дом, в котором я живу». Триумф в Каннах ленты «Летят журавли» был всемирным. Сергей Урусевский назван лучшим оператором мира. Приходило новое поколение художников, театральных режиссеров, поэтов. И среди них были фронтовики. Например, Эрнст Неизвестный, Виктор Некрасов, Давид Самойлов, Борис Слуцкий, Булат Окуджава. Началась смена поколений, смена вех. Новые идеи — новый язык. Еще начало «оттепели». Еще только-только… Начала оживать творческая жизнь в стране после долгой отделенности, обделенности и абсолютного незнания того, что вокруг. Так что Андрей вопреки мнению многих не появился гомункулусом из реторты алхимика. Но на первых курсах был тем, кто сам себя еще до конца не знал, но о нем уже давно знали боги.