А. Ф. Иоффе в качестве первостепенной задачи указал на необходимость «децентрализации физики», т. е. создания сети физических институтов по всей стране, а не только в Ленинграде и Москве. В первую очередь он указал на необходимость создания мощного физического института в Харькове — крупнейшем промышленном и культурном центре страны. Разъясняя значение такого решения, сравнивая состояние науки и техники в Германии и Франции, он указывал, что более высокий научно-технический потенциал Германии по сравнению с Францией связан именно с тем, что физические институты в Германии размещены во многих городах в отличие от Франции, в которой почти вся наука сосредоточена в одном Париже[23].
Основными сотрудниками УФТИ стали физики, переехавшие из Ленинградского физико-технического института (ЛФТИ). В Ленинграде группу ученых, уезжавших в Харьков, провожали на вокзале с музыкой, ибо их отъезд рассматривался как важный патриотический шаг.
Здание для нового института проектировал по предложению будущего директора УФТИ И. В. Обреимова ленинградский архитектор, и здание получилось отличным.
Из Ленинграда в УФТИ переехала большая группа молодых талантливых ученых: И. В. Обреимов, А. И. Лейпунский, Л. В. Шубников, К. Д. Синельников, А. К. Вальтер, В. С. Горский, Г. Д. Латышев, А. Ф. Прихотько, О. Н. Трапезникова, Л. В. Розенкевич и другие. В состав УФТИ вошли также молодые харьковские ученые А. А. Слуцкин и Д. С. Штейнберг.
В августе 1932 г. в УФТИ переехал Л. Д. Ландау. Ему было в это время 24 года, но он был уже известен во всем мире как выдающийся физик-теоретик. Этому содействовало то, что в 1929—1931 гг. он находился в заграничной научной командировке и участвовал в работе семинаров знаменитых физиков М. Борна, В. Гейзенберга, В. Паули, П. Дирака и, наконец, самого Нильса Бора. Общение его с этими крупнейшими учеными было очень активным, и им пришлось скоро убедиться в силе его необычайного таланта. Он беседовал даже с великим Эйнштейном и пытался перевести его в «квантовомеханическую веру», что, впрочем, ему не удалось. Особенно высоко оценил Ландау Нильс Бор, который, начиная с этого времени и до последних дней Ландау, относил его к числу своих лучших учеников, а Ландау считал Бора своим учителем. Много позже Иван Васильевич Обреимов в беседе со мной говорил, что в ЛФТИ Ландау недооценивали, и только он, Обреимов, зная, насколько талантлив Ландау, предложил ему должность заведующего теоретическим отделом УФТИ и полную свободу действий в смысле подготовки кадров молодых теоретиков и научной тематики.