Mustafa Kemal Paşa Amasya'dan sonra Sivas'ta bir gün kaldı ve burada yapılacak olan kongrenin çalışmalarını gözden geçirdi. 3 Temmuz 1919 günü Erzurum'a ulaştı ve şehirde halkın büyük desteğini arkasına alarak çalışmalarına başladı. Bu sırada Dahiliye Nazırı (İç İşleri Bakanı), Mustafa Kemal Paşa'nın görevden alındığını ve kendisiyle hiçbir resmi görüşmenin yapılmayacağını duyurmuştu. O da 8-9 Temmuz 1919'da "sine-i millette bir ferd-i mücahit olarak çalışmak üzere" görevinden istifa etti. Artık sorumluluk sahibi bir vatandaş olarak görev yapacaktı. Ancak sahip olduğu maddi imkanlar çok yetersizdi. Öyle ki, istifa ettiği zaman yanında giyecek sivil elbisesi bile yoktu. Üniformasını çıkardığı gün giydiği elbiseyi Erzurum Valisi Münir Bey'den, başına taktığı fesi ise Müfit Bey'den almıştı. Erzurumlular kendisine asla unutmayacağı bir sevgi gösterdiler ve onu Vilayat-ı Şarkiye Müdafaa-i Hukuk-u Milliye Cemiyeti Erzurum Şubesi Başkanı ilan ettiler.