1914 yılında savaş patlak verdiğinde altmış beş yaşındaydı. İlk olarak General Maximilian von Prittwitz'in komutası altında ve daha sonra General Paul von Hindenburg'un komutası altında, 8. Alman Ordusu'nun parçası olarak 27. Kolordu komutanı olarak kaldı. 19 Ağustos 1914 tarihinde öğleden sonra Doğu Prusya işgal onun kolordu Rus İmparatorluk Ordusu'na karşı savaştı. Daha sonra Ruslara karşı Gumbinnen ve Tannenberg muharebelerinde kolordusuyla beraber büyük başarılar gösterdi.
2 Kasım 1914 tarihinde Doğu Başkomutanı (Oberbefehlshaber Ost) olan Hindenburg'un yerine 9. Ordu komutanlığına atandı. 27 Kasım 1914'te ordusuyla Łódź ve Varşova'yı ele geçirdi. Bu başarısı nedeniyle Prusya'nın en yüksek askerî nişanı olan Pour le Mérite ile ödüllendirildi. Daha sonra Galiçya Cephesi'nde Przemyśl ve Lemberg'in ele geçirilmesinde önemli rol oynadı
.
Emeklilik:
1920 yılında ordudan emekli oldu. Yeni kurulan cumhuriyet sistemine karşı kampanyalar başlattı. 1924 civarında fikrini değiştirdi ve muhafazakâr, monarşik grupları desteklemek için "savaş kahramanı" imajını kullanmaya başladı. Askeri muhafazakâr kuruluşlarda, özellikle Stahlhelm ve Schlieffen Topluluğu'nda çok aktif oldu.Alman hükûmeti ya da Nazi Partisi tarafından yapılan bazı kamu etkinliklerde siyah üniformasıyla görünse de, Haziran 1934'teki Uzun Bıçaklar Gecesi tasfiyesi sırasında, Generaller Ferdinand von Bredow ve Kurt von Schleicher cinayetlerine ve Eylül 1939'daki Polonya Seferi sırasında işlenen zulümlere karşı çıktı. 1940'lı yılların başında Adolf Hitler ve Joseph Goebbels, Mackensen'in sadakatsizliğinden şüphelendiler ama hiçbir şey yapmadılar. Kararlı bir monarşist olarak kaldı ve Kayzer II. Wilhelm'in 1941'deki cenazesinde (Doorn, Hollanda) üniformalı olarak hazır bulundu.
Eşiyle birlikte 1945 yılının başlarında, Kızıl Ordu'dan korunmak için Aşağı Saksonya'ya kaçtı. 8 Kasım 1945 tarihinde, doğum gününden 1 ay önce, 95 yaşında öldü ve Celle şehir mezarlığında toprağa verildi. Elveda Son süvari komutanı.
