甲午戰爭爆發前，袁世凱在朝鮮知事無可為，隨后便托辭返回國內。回津之后，李鴻章以袁世凱人才可用，委派他辦理前敵營務，但袁世凱并不想從事后勤工作，因而在工作之余又背著李鴻章在京中托人找關系，另謀出路。
袁世凱之所以能夠得到迅速升遷，這與李鴻章提拔重用是分不開的，但令李鴻章不能容忍的是，袁世凱竟然求到了自己的政治死敵翁同和的門下，這在當時的官場上可是犯了大忌的。由此，李鴻章開始疏遠并冷淡袁世凱，而袁世凱更是一個現實主義者，他在甲午戰敗、李鴻章失勢之后，干脆就改投門戶，另找靠山。
在經歷甲午戰爭的慘痛失敗后，清廷中改練新軍的呼聲漸高，而袁世凱憑借自己曾經幫朝鮮練過新軍的經驗，也試圖抓住這個機會，實現自己以西法練兵的計劃。為此，袁世凱上下奔走，向權貴們推銷他的練兵計劃，并最終獲得成功。
李鴻章從日本談判回國后，便一直閑居京城賢良寺，對袁世凱的所作所為十分不屑。當時的李鴻章，因為代表清廷簽署了喪權辱國的《馬關條約》，非當官居閑職、門前冷落，而且為輿論所不容，因而心態不免有些失衡。
時人劉體智在《異辭錄》中記載說：“甲午戰后，軍機大臣李鴻藻用袁世凱為將，并令其在小站以新法練兵。李鴻章從日本馬關回來后，李鴻藻曾對他談及此事，李鴻章冷冷的道：‘我是敗軍之將，等著袁大少爺練成新軍后打一仗試試看’。袁世凱聽說后，心里十分不悅，引以為終生憾事。”
無獨有偶的是，曾國藩的孫女婿、當時入李鴻章幕府的吳永也在《庚子西狩叢談》中記載了這樣一件事，說李鴻章從日本回到天津后，他與直隸的官員及候補官員一同進見，當時的袁世凱已被授予直隸按察使的職務，但并未到任而是專職練兵。直隸按察使是地方大員，自然在進見官員的前列。李鴻章到后，袁世凱便上前匯報練兵事宜，說初步的計劃也已經部署，德國教習也已經聘請，日內便可簽訂合同，馬上便可以正式展開了。
令眾人沒有想到的是，一向有風度的李鴻章這次卻沒有等袁世凱說完便勃然變色，他舉起手中的手杖，砰砰的敲打著地面，厲聲道：“嗐！小孩子懂得什么練兵！又訂的什么合同！我治兵數十年，現在尚不敢說有什么把握。兵是這么容易練的嗎？你雇幾個洋人，扛上幾桿洋槍，喊幾個洋口令，便算是西式軍隊了么？”
袁世凱當年36歲，在遭此斥責之后，頓時面紅耳赤，亦不敢反駁。周圍的同僚們，從來沒有看到李鴻章發那么大的火，大家都低著頭，既不敢看李鴻章，也不好意思看袁世凱，場面十分的尷尬。在吳永看來，袁世凱當時已經有嶄露頭角之像，李鴻章看起來倒是有意要殺殺他的威風。
事實上，此時的李鴻章正處于個人政治生涯中最低潮，他對于袁世凱奔走于政敵翁同和門下而始終耿耿于懷。有一次，袁世凱來拜訪這位過氣的老領導的時候，李鴻章終于再次爆發并痛斥了袁世凱一頓……巧合的是，這次吳永又在旁邊耳聞目睹。
據吳永的記載，當他與李鴻章在賢良寺閑聊的時候，袁世凱前來拜見，于是他便避入別間。袁世凱在寒暄了幾句之后，便為老上司的遭遇表示不平：“中堂當年鐵馬金戈，為朝廷立下了汗馬功勞，如今朝廷只給予內閣首輔的空名，雖然每日隨同上朝請安，實則無所事事，這樣太不公正了。中堂大人不如暫時告假還鄉，等到朝廷遇到難事了，屆時必定會想到股肱老臣，這樣中堂再次出山，豈不是名正言順，而且能挽回昔日的聲望？”
甲午后被權貴們排擠的李鴻章，此時卻十分敏感，袁世凱的話音剛落，他就厲聲呵斥道：“停，停！慰亭，你這是給翁叔平（叔平是翁同和）當說客來了嗎？我要是請辭出了缺，那他就可以依次升到協辦大學士的位置……他想得倒挺美！你回去告訴他，讓他想都別想！要是別人出了缺，讓出一個位置給他，那我管不著，但要想讓我空出一個位置來給他，這萬萬辦不到！只有我有一口氣在，就要鞠躬盡瘁、死而后己，決不會無故請辭，奏請開缺。我們這些做臣子的，對朝廷哪能說三道四，計較這計較那的？你要是受他所托，在這里花言巧語，我是不會受你們愚弄的！”