После ликвидации султаната на очередь встал вопрос о халифате. Халиф, духовный глава всех мусульман-суннитов, в чьих: руках находилась власть над душами правоверных, оказывал немалое влияние и на общественно-политическую жизнь страны. Халиф в своей деятельности опирался на шариат — священные законы, на которых покоился правопорядок. Суды также действовали согласно законам шариата. Кади не только вникал во все вопросы» связанные с религией, но и имел решающий голос при судопроизводстве наряду с вали. После многочисленных дебатов и совещаний с партийным активом президент, в руках которого фактически находилась вся власть, внес на рассмотрение меджлиса вопрос о ликвидации халифата, о секуляризации, упразднении министерства по делам шариата и вакуфов. Все школы переходили в ведение министерства просвещения, а медресе были закрыты. 3 марта 1924 года меджлис утвердил законо-проекты, предложенные Кемалем, по которым институт халифов упразднялся, все члены султанской семьи из Турции изгонялись. На рассвете следующего дня последний халиф, Абдул Меджид, покинул Турцию и вместе с еще остававшимися в стране членами семьи султана отправился на Мальту. Отъезд, точнее, изгнание главы правоверных происходило в строгой тайне. С предосторожностями бывший халиф был препровожден на одну из пригородных станций, посажен в Восточный экспресс и выдворен из страны.
Новый порядок в стране закрепила конституция, принятая Великим национальным собранием 20 апреля 1924 года. Одна проблема — юридическая — была решена. Но оставалась другая, не менее важная проблема — перестройка сознания. Это было весьма трудным делом: шла ли речь о соратниках Кемаля или о рядовых приверженцах ислама — султан был не только носителем верховной светской власти в османском государстве, но и главой всех мусульман на земле, благодаря чему Турция занимала особое положение в мусульманском мире. Закон о ликвидации в Турции халифата вызвал большую тревогу в странах, где ислам был государственной религией. Фанатики-мусульмане были враждебно настроены к реформам Кемаля, да и часть кемалистов перешла на сторону противников реформ. В результате сложилась достаточно сильная оппозиция. Оппозиционеры сформировали Прогрессивно-республиканскую партию; организаторами выступили известные генералы, недавние друзья Мустафы Кемаля из среды младотурецких националистов. Главным объектом нападок стал ближайший соратник президента — Исмет-паша. Под Давлением оппозиции Кемаль вынужден был сместить Исмет-пашу и назначить премьер-министром Али Фетхи-бея, политического деятеля, а также члена Народной партии, который предоставил реакционерам свободу Действий. Все это свидетельствовало о наличии в правящих кругах сильных противоречий.