В октябре 1921 года Туполев начинает строительство своего первого быстроходного катера АНТ-1 (такое же обозначение спустя год получил и первый самолет Туполева). Основным материалом, использованным для строительства катера, было дерево. Работа над катером потребовала создания в Крыму специальной базы для испытания и доработки катеров и гидросамолетов. Здесь же изучались процессы коррозии новых металлов в соленой воде. Опыт, полученный при разработке и эксплуатации аэросаней и быстроходных катеров, позволил Туполеву значительно расширить собственные знания и проложить путь к конструированию и строительству цельнометаллических самолетов.
Через шесть месяцев, в апреле 1922 года Туполев приступает к работе над конструкцией своего первого самолета. Это одноместный спортивный моноплан свободнонесущей схемы из дерева и металла с размахом крыла 7,2 м. В свой первый полет самолет, работа над которым заняла полтора года, отправился 21 октября 1923 года. Пилотировал его Евгений Погосский.
Между тем в мае 1923 года Туполев начинает проектирование АНТ-2 – первого советского цельнометаллического самолета. Это был свободнонесущий моноплан с высокорасположенным крылом. Пилот самолета размещался в открытой кабине, а двое пассажиров – в закрытой, лицом друг к другу. На самолете устанавливался двигатель «Люцифер» фирмы «Бристоль» с воздушным охлаждением мощностью 100 л.с. Первым пилотом, поднявшим АНТ-2 в воздух 26 мая 1924 года, был Николай Петров. Несколько таких самолетов было построено на Кольчугинском заводе. Самый первый АНТ-2 сохранился в Музее авиации и космонавтики в городе Монино под Москвой. Пять построенных в Кольчугине самолетов обслуживали трассу Москва – Горький.
К началу двадцатых годов возглавляемый Туполевым коллектив насчитывал тринадцать инженеров. Основные силы были в то время брошены на разработку и испытание алюминиевых сплавов, пригодных для использования в самолетостроении. В январе 1925 года Туполев впервые выезжает за границу: во главе группы специалистов он посещает Германию и Францию, где изучает опыт борьбы с коррозией в авиационной промышленности, а также ряд других проблем. Несмотря на положительную, в общем, оценку накопленного в этих странах опыта, Туполев приходит к выводу, что для условий России в наибольшей степени подходит метод анодирования, применяемый в Великобритании, и вскоре эта технология принимается в качестве стандартной в Советском Союзе.
В июле 1924 года в ЦАГИ поступает заявка ВВС на проектирование двухместного самолета-разведчика. Вполне естественно, задание направляется в отдел АГОС, которым руководит Туполев. В результате на свет появился АНТ-3 – первый туполевский биплан, фактически, полутораплан, поскольку нижняя плоскость его была значительно короче верхней. Выбор биплана в качестве конструктивного решения самолета был продиктован имевшимся на тот момент двигателем. Кроме того, меньший размах крыльев, характерный для биплана, улучшал маневренность самолета, так необходимую истребителю и разведчику. Первый полет АНТ-3 состоялся в августе 1925 года, после чего машина была немедленно поставлена в серийное производство на ГАЗ-5 (Государственном авиационном заводе № 5, который в 1927 году в честь десятой годовщины Октябрьской революции был переименован в завод «Красный октябрь»).