Работы начались. Новый самолёт Як-36М должен был существенно отличаться от прототипа. В апреле 1970 г. под председательством заместителя командующего авиацией ВМФ генерал-лейтенанта авиации Н.А. Наумова состоялась макетная комиссия ВВС и ВМФ, которой были представлены одновременно макет и первый экспериментальный экземпляр Як-36М №01 г. Протокол замечаний комиссии содержал ряд пунктов, к основным из которых относилось требование замены катапультного кресла КЯ-1М (конструкции ОКБ Яковлева) на унифицированное кресло К-36ВМ (КЯ-1М оставили на первых десяти самолётах) и улучшения бокового обзора из кабины. Неудобство катапультного кресла первого типа состояло в необходимости взвешивать лётчиков перед полётом и соответственно изменять положение механизмов катапульты, центрируя кресло.
Второй опытный Як-36М – первый самолет, совершивший посадку на палубу корабля
Испытания первого экспериментального самолёта Як-36М №01, построенного 15 апреля 1970 г., проводились вначале на стенде для измерения температурных полей, регулировки двигателей и струйного управления. На этом самолёте 22 сентября 1970 г. выполнялось свободное висение на высоте 0,5 м. Второй опытный самолёт, построенный к 15 октября 1970 г., отрабатывался на стенде сил и моментов для снятия характеристик струйного управления, исследования явлений рециркуляции и подсоса выхлопных газов на высотах менее 2 м, показавших, что потеря тяги достигает 800 кгс. Для снижения рециркуляции газов на фюзеляже установили газоотводящие ребра, сопло переднего ПД повернули на 15° против направления полета.
24 ноября 1970 г. на самолете №02 Мухин выполнил скоростную рулежку, а через три дня – подлет (с разбегом). После решения методического совета МАП о подъёме самолёта, Мухин 2 декабря 1970 г. выполнил полёт на втором экземпляре Як-36М со взлётом по-самолёт- ному. Сопровождавший его МиГ-21 пилотировал летчик-испытатель ЛИИ Л.Д. Рыбиков. Для сокращения длины пробега сопло ПМД после приземления самолёта переводилось в вертикаль. Третий Як-36М поступил в ЛИИ 17 мая 1971 г., а 16 июня летчик-испытатель Ю.А. Шевяков выполнил на нём первый вылет. 30 июля самолёт на пробеге опрокинулся и три месяца находился в ремонте.
В ходе работ колею шасси увеличили с 2,2 до 2,75 м за счет изменения конструкции основных стоек, а в хвостовой части фюзеляжа установили контейнер с тормозным парашютом. Таким образом, многочисленные пожелания о необходимости расширения колеи шасси самолёта, предназначенного для корабельного базирования, наконец-то превратились в реальность. 25 февраля 1972 г. летчик-испы- татель М.С. Дексбах на втором Як- 36М впервые выполнил полет "по полному профилю", 20 марта примерно такой же полет состоялся на самолёте №01, а 1 августа – на третьей машине, оснащенной пушечным контейнером УПК-23-250. Третий самолёт в дальнейшем вынес основные нагрузки при отработке вариантов подвесок средств поражения.