Новый министр обороны А. А. Гречко, сменивший в 1967 г. Р. Я. Малиновского на этом посту, также придерживался реалистических взглядов на роль ВВС, настаивая на развитии их ударной составляющей, включая и самолёты поля боя. С этим предложением весной 1969 г. он обратился в МАП, вскоре объявивший конкурс на «самолёт-штурмовик».
В нём приняли участие ОКБ А. С. Яковлева, С. В. Ильюшина, А. И. Микояна и П. О. Сухого. Вскоре их проекты были представлены на Научно-технический Совет МАП, где перспективными признали разработки ОКБ А. И. Микояна и П. О. Сухого. Яковлевская машина, представлявшая собой вариант бомбардировщика Як-28 с бронированием кабины экипажа, и вновь предложенный Ильюшиным двухмоторный штурмовик Ил-40 вызвали много нареканий и были отклонены как недостаточно проработанные — в первую очередь, по уровню специализированного целевого оборудования и вооружения.
На втором этапе конкурса ОКБ А. И. Микояна и П. О. Сухого соревновались между собой, отстаивая собственное видение ударного самолёта поля боя. Представленные на конкурс микояновские проекты являлись вариациями на тему заслуженного МиГ-21, что сулило экономию времени и удешевление производства. Они, в общем, отвечали требованиям заказчика, настаивавшего на сверхзвуковой машине со скоростью у земли не менее 1200 км/ч. Это условие было продиктовано обеспечением выживаемости самолёта при прорыве ПВО и опиралось на данные о возможностях основного в армиях НАТО ЗРК «Хок», боевая эффективность которого резко снижалась при указанных скоростях маловысотных целей.
Первоначально ОКБ Микояна предложило превращение простого и надёжного истребителя МиГ-21 в штурмовик МиГ-21Ш кратчайшим путём. Предполагалось обойтись «малой кровью» — установить на МиГ-21С новое прицельно-навигационное оборудование и крыло увеличенной площади с шестью узлами подвески вооружения. Однако расчёты и прикидки показали, что решить проблему «в лоб» с требуемой эффективностью вряд ли удастся. Пришлось значительно модернизировать конструкцию «двадцать первого», больше внимания уделить боевой живучести и вооружению. В рамках темы, получившей индекс «27», велись работы сразу над двумя проектами: МиГ-27Ш и «27–11».
Первая машина первоначально создавалась на базе МиГ-21, но в итоге от него осталась только хвостовая часть фюзеляжа с оперением, всё остальное проектировалось заново. МиГ-27Ш получил низкорасположенное трапециевидное крыло большой площади, боковые воздухозаборники, двигатель без форсажной камеры, короткий нос и кабину с хорошим обзором. Для защиты от огня стрелкового оружия и осколков снарядов кабина лётчика полностью бронировалась.