从1922年起，小亚细亚
土耳其在凯末尔的主导下，废黜苏丹制和哈里发制，开启了一系列世俗化改革。从此，土耳其从一个政教合一的国家，逐渐变为世俗的共和国。苏丹是土耳其的君主，哈里发是伊斯兰教的领袖。长期以来，奥斯曼家族的人担任苏丹，并兼任哈里发。
凯末尔觉得，这种政教合一的制度，让土耳其成为欧洲人眼中的异类，土耳其落后、一战期间被瓜分都与这种制度有很大关系。所以，要发展现代化就必须废除苏丹，即废除君主制，建立共和制，也要废除哈里发制，不允许宗教把持国家行政。
以洛桑会议召开为契机，凯末尔（当时的职务是国民军总司令）决定把想法付诸实践。当时独立战争刚结束，协约国和凯末尔政权的代表在瑞士洛桑开会，商量签约问题。但除了凯末尔政权的人，苏丹政府的代表，竟也被协约国邀请参会。
协约国的做法让凯末尔愤慨不已。凯末尔认为，是自己的政权带领土耳其走向独立的，苏丹政府屈从于协约国，任凭土耳其被占领和瓜分，早就应该被推翻，苏丹怎么能有资格代表土耳其呢？于是凯末尔召开会议，要立即废除苏丹制和哈里发制。
然而凯末尔的决定，却没有得到很多呼应。新政权的总理拉乌夫第一个跳出来反对，他说，我参加独立战争，就是为了驱逐外国人，然后让苏丹和哈里发恢复可以独立作主的地位。我有责任继续对君主保持忠诚，我对哈里发的爱戴，是我所受的教育的结果。拉乌夫的话，得到众多议员的附议。
然而凯末尔决心已定，他决定利用军权强推自己的想法。于是他对与会代表说，奥斯曼家族是通过暴力，取得苏丹和哈里发之位的，现在我们也用武力掌握了政权，那么奥斯曼家族就必须交出权力，如果有人反对和阻挡，就免不了会有人人头落地。
凯末尔的话让反对派大惊失色，土耳其军队大部分是凯末尔组建的，他带领这些人，将装备精良的20万希腊军赶出国门，所以他在军中威望颇高，一呼百应。凯末尔见武力威胁发生了作用，也不想闹得太僵，就让了一步，说可以先废除苏丹制，保留哈里发，就是说奥斯曼家族的人，可以继续当宗教领袖，但不能再当国君。
这种折中方案，被众人所接受。于是，原来的苏丹兼哈里发被废黜，奥斯曼家族的迈吉德二世，被选为新任哈里发。
然而凯末尔逐渐发现，虽然苏丹制废黜了，新当选的哈里发，很多时候仍把自己当成政教合一的统治者，比如他组织声势浩大的祈祷会，庞大的经费还让政府买单。哈里发手下的神职人员，也不满哈里发权力被剥夺，给凯末尔写信，要求恢复哈里发的行政权。如此情形，让凯末尔越发觉得，哈里发制也不能保留。
但拉乌夫等人，必然不同意凯末尔的想法，他们开始想办法限制凯末尔。因为废除了苏丹，国会要选出一位总统来统治土耳其，凯末尔威望颇高，当选的希望很大。如果他当选，再主张废除哈里发制，就完全没人阻止得了了。
所以拉乌夫联络反对凯末尔的议员，提出一个法案，说只有出生在独立战争后土耳其领土的人，才有资格参选。凯末尔的出生地撒罗尼卡，后来划给了希腊。如果这个法案通过，凯末尔就失去了参选总统的资格。
结果凯末尔再次以军队为后盾，强行将议会解散，然后组建新议会。在新议会中，议员大半是凯末尔的支持者。他们选凯末尔为议长，再选他为土耳其总统。凯末尔当选总统后，解除拉乌夫的总理职务，任命支持自己的伊斯梅特将军为新总理。
顺利掌权后，凯末尔立即推行对哈里发的废除计划。他跟陆军部长和总参谋长打好招呼，将军队部署在首都各紧要位置，然后要议会就废除哈里发进行投票。凯末尔派本就把持了议会，拉乌夫等摄于军队的威势，只得投了弃权票。
哈里发就这样被废除了，一起被废的还有宗教法庭、宗教学校等。迈吉德二世被送往国外，奥斯曼家族的全体人员全被流放。
拉乌夫等人仍旧不服，他们组建进步共和党，以求慢慢发展实力，将来与凯末尔抗衡。但后来有神职人员起义，以恢复哈里发为口号，号召伊斯兰教徒反抗凯末尔政府。凯末尔将起义镇压下去后，以煽动人们造反为由，宣布拉乌夫的进步共和党违法，将其取缔。
然后，凯末尔全方位清除宗教元素：禁止使用伊斯兰教立法，禁止使用阿拉伯字母……宪法中关于伊斯兰教为国教的规定，也被删除。
凯末尔的世俗化改革，让土耳其率先在伊斯兰教国家中，建立了稳定的民主制度。这也为经济领域的现代化改革奠定了基础，让土耳其基本保持了社会的安定。
