鬧辭職 大罵著離開奉天
湯玉麟自恃曾經救過張作霖的命，沖突過后并沒有反躬自省，反而變本加厲。他糾集一些人，擬好一張呈文去見張作霖，要求罷免王永江，否則他們全部辭職。
但是，性格倔強的張作霖哪里能夠輕易向歪理屈服。他看也沒看，就將呈文撕個粉碎，并暴跳如雷，破口大罵。湯玉麟也和他對罵起來，最終讓眾人分開。張作霖罵道：“沒有你這個雞子，也能做槽子糕。”湯玉麟還口說：“你叫老子干，老子也不干了！”湯玉麟回到旅部，揚言要攻打張作霖，還要武力拘捕王永江。此時，居心叵測的馮德麟公然聲明支持湯玉麟。雙方劍拔弩張，大有一觸即發之勢。
后來，張作霖派軍官教育團團長闞朝璽深入湯軍內部，對軍官做分化瓦解的工作，有10余營長焚香宣誓，表示效忠張作霖，不聽湯玉麟的指揮。湯玉麟見大勢已去，大罵張作霖，之后離開奉天，回到新民。
拒和解 仍然一意孤行
此后，張作霖從大局出發，也擔心湯玉麟與馮德麟勾結于己不利，于是，向湯玉麟修書一封，表示和解。
這是一封長信，言辭懇切，催人淚下。其中言道：“人生最寶貴者，莫過于生命。昔當患難之時，誓同生死，偶以言語之差，視同陌路。我兄向重義氣，今乃不念前情，不思舊雨，決心離去，此弟深為不解，亦最為痛心者。”湯玉麟讀罷此信，不為所動，決心繼續反張。
湯玉麟這樣決絕，與當時背后有馮德麟支持有關。但后來段祺瑞表示支持張作霖，馮德麟就見硬即退了，湯玉麟由新民去北鎮與其聯合時，他卻“拒而不納”了。湯玉麟走投無路，只好去做山大王。后來被張作霖派五十四旅旅長孫烈臣和騎兵團長張作相對其進剿，湯玉麟就逃往徐州，投靠張勛去了。
化仇怨 湯玉麟老娘親自出頭
湯玉麟在張勛手下覓得一個營務長的虛職，整日無所事事。1917年6月下旬，張勛進京復辟，湯玉麟隨行。復辟失敗，湯玉麟也成為了被通緝的要犯。
后來，湯玉麟從北京逃出，回到義縣老家。聲名顯赫的湯二虎回到鄉間，窮途末路，一蹶不振，很后悔當年的魯莽從事。湯母看在眼里，痛在心上，輾轉請求他當年的老弟兄張作相、張景惠等人，向張作霖轉達兒子的懊悔之意。張作霖不計前嫌，親筆給湯玉麟寫了一封信，讓其回來繼續為奉系效力。湯玉麟得到來信，驚喜交加，百感交集。
湯玉麟感激老娘的一片苦心，立即趕赴沈陽。老哥倆見面抱頭痛哭，觀者無不為之動容。此后，張作霖任命其為東三省巡閱使署中將顧問。不久，就升任其為第十一混成旅旅長，率部駐扎鳳城，兼任東邊道鎮守使和剿匪司令，給予實權。張作霖的大度化解了哥倆的恩怨，湯玉麟更加為奉系效力了。
1926年4月，湯玉麟任熱河都統。在“九·一八”事變后，他當了逃跑將軍，避居天津。他的部下中有一部分愛國官兵自動奮起抵抗日軍的進攻，在東北堅持數年。
湯玉麟在抗日戰爭期間多次拒絕出任偽職，度過了一生中最為平靜的歲月。1949年2月，湯玉麟病死于天津，終年80歲。很多地方以訛傳訛將其去世時間定在1937年5月其實是錯誤的。
