В VI веке до нашей эры Конья была завоевана Ахеменидами и вошла в состав Ирана. Персов сменили войска Александра Македонского, завоевавшие город. Вскоре после его смерти (IV век до нашей эры) Конья вошла в состав государства, созданного одним из военачальников Александра Македонского — Лисимахом. Древние греки называли город Иконной. Легенда гласит, что Персей, сын Зевса и Данаи, отсек голову чудовищу, Медузе, и водрузил ее над городскими воротами. Отсюда и пошло название города — «Город с иконой».
Позже Конья еще не раз переходила из рук в руки разных завоевателей. В конце III века до нашей эры Аттал I присоединил город к Пергамскому царству, в составе которого он и находился до конца II века до нашей эры, после чего Конья перешла к римлянам и стала частью Римской империи.
Сохранились сведения о том, что в Конье в качестве административного чиновника Римской империи находился одно время знаменитый оратор Цицерон. Он изучал здесь искусство древнегреческих ораторов, а также написал несколько сот писем, в которых содержались интересные данные по истории Малой Азии.
Конья сохранила свое значение крупного центра и после распада Римской империи. На рубеже новой эры город стал одним из оплотов распространявшейся христианской религии. В течение нескольких столетий Конья входила в состав Византийской империи. В VII–IX веках пашей эры она несколько раз подвергалась нашествиям арабов, которые до основания потрясали империю.
В XI веке, когда в Малую Азию пришли турки-сельджуки, Конья была захвачена сельджукским предводителем Куталмыш-оглу Сулейман-шахом. В конце этого же века сельджукский султан Кылыч Аслан I сделал город столицей своего государства. Наибольшего расцвета Конья достигла в XIII веке в период царствования Алаэддина Кейкубата I, когда стала не только административным, но и научным, и культурным центром империи сельджуков.
«Золотой век» Коньи длился до середины XIII века, когда турки-сельджуки уступили натиску пришедших с востока монголов. В самом конце XIII века последний сельджукский султан Алаэддин Кейкубат III погиб в борьбе с монголами. Однако монгольское владычество длилось недолго. В начале XIV века монголы ушли, а сельджукская империя распалась на восемнадцать независимых княжеств-бейликов. Конья оказалась центром одного из таких бейликов, во главе которого стояла династия Караманов. Они довольно долго сдерживали наступление новых завоевателей — турок-османов. Это отчасти объяснялось тем, что интересы последних были устремлены в основном на северо-запад, к Константинополю, а не в глубь Малой Азии. В самом конце XIV века султан Баязид Молниеносный завоевал было Конью, но ненадолго — она снова перешла в руки Караманов. Лишь в 1466–1467 годах султан Мехмед II Фатих, после того как он завоевал Константинополь, обратил свой взор к Конье. Город, на этот раз прочно, был завоеван турками-османами, которые тем самым утвердили свое господство в Центральной Анатолии.