2007年4月，國防部長謝爾久科夫將馬卡羅夫重新召回莫斯科，出任武裝力量裝備部部長兼國防部副部長。在擔任裝備部長期間，馬卡羅夫積極策劃對俄軍進行大刀闊斧式的改革，這與謝爾久科夫為俄軍設計的改革方案一拍即合，因此很快成為謝爾久科夫的得力助手。2008年6月3日，在謝爾久科夫舉薦下，馬卡羅夫成為俄軍總參謀部的新掌門人。
盡管馬卡羅夫對推行“精兵簡政”頗有信心，但軍中對其質疑之聲卻不絕于耳。從2008年起，有多位將軍因對改革舉措不滿，主動遞交辭呈。事實上，俄軍中對馬卡羅夫軍隊改革的質疑早已有之。一名俄軍高官甚至還指出，馬卡羅夫執掌總參謀部后，俄羅斯武裝力量始終處于一種臨時過渡狀態——基本規章和戰斗條令遲遲不能出臺，各軍兵種編制機構和駐地部署方案也無法敲定，這一切導致軍隊的癱瘓和戰斗力的喪失。“總參謀長總喜歡提及部隊‘神奇’的戰斗力，其實都是在虛張聲勢。”
不過，目前有一點是可以肯定的——已確定未來六年執掌克里姆林宮的普京仍然信任馬卡羅夫，他的改革舉措也仍將持續下去，因為俄武裝力量并沒有回頭路可走。(新華網)