1920年开始，希腊在英国的支持下向土耳其进军，进入到安那托利亚的腹地。凯末尔利用这一时机，开始组建土耳其国民军。他号召复员的军人起来为祖国的生存而战，以复员军人建立国民军的骨干，凯末尔还注意和农民武装建立联系。在凯末尔为民族独立的强大号召力之下，许多官兵脱离旧政权参加国民军，各地的农民游击队和自卫军也先后加入了国民军。
1921年初，15000人的国民军，在伊诺努战役中，面对四倍于自己的敌军顽强斗争，打败了希腊入侵军。到8月份，凯末尔亲自指挥5万国民军，同10万希腊军在距安卡拉40公里的萨卡里亚河岸进行了一场大会战。凯末尔提出了一切为了前线的号召，动员全体军人不惜一切牺牲，英勇抗敌。所有男子都上了前线，运输弹药的任务就几乎全交给了妇女。她们冒着枪林弹雨，将一发发炮弹送入战壕。成千上万土耳其儿女的血汗洒遍了萨里卡亚河畔。凯末尔后来回忆这次战争时说：“阵地的防线是没有的，有的是肉体的防线。这肉体的防线是由全体人民组成的。人民的每一寸领土，都是用人民的鲜血换来的。”在凯末尔亲自指挥下，经过22昼夜的血战，击溃了进犯的希腊军，取得了民族解放战争的决定性胜利。凯末尔因这次胜利被大国民议会授予“加齐”(胜利者)的称号，并晋升为土耳其国家元帅。
1924年8月26日，经过充分的准备之后，土耳其国民军开始反攻。两周之内把英国支持的希腊军全部赶出了安那托利亚，收复了伊兹密尔，俘虏了希腊军的总司令库皮奇将军，迫使苏丹逃亡国外。1923年，英、法、意、希等协约国成员同土耳其在瑞士洛桑签定了《洛桑条约》，废除了治外法权，确认了土耳其领土和主权的完整。
1923年10月，土耳其国民军进军伊斯坦布尔，实现了全国统一，并且召开大国民议会，宣告土耳其共和国成立，通过宪法，定都安卡拉，凯末尔当选为第一任总统。1924年3月3日，神职哈里发被废除。1928年4月10日，宪法删除了“伊斯兰教为国教”的条文。土耳其至此完全成为世俗的共和国。