1928年6月4日，日本人制造“皇姑屯事件”炸死了張作霖，接掌東北政局的少帥張學良年僅27歲。雖然當時的軍政要人表面上擁戴他，但很多人仍持觀望態度，特別是一些綠林出身的元老重臣，根本不拿他當回事，甚至居功自傲，一手遮天，尤以楊宇霆、常蔭槐兩人為最。父親在世時，視楊、常為左右手，二人均掌握著東北的實權，且關系極為密切。張作霖故后，二人經常飛揚跋扈，對張學良動輒訓罵，儼然以執父自居。每當張學良向楊詢問情況或發表主張時，楊都以斥責的口吻說：“你不懂，別瞎摻和，我會做決定。”
一次某官員求見張學良不得，只好找到楊。楊大怒道：“漢卿子承父業，如此下去，抽死得了。”（時張學良已有毒癮）遂帶那位官員到帥府問衛兵：“少帥何在？”衛兵答：“尚未起床。楊怒氣沖沖地來到張臥室外，使勁踹門并大聲嚷道：“我是楊麟閣，快起來，有公事。”
張急披衣而出，楊指著罵道：“老帥在世可不這樣，混帳東西，你若這樣，東北的事能干好嗎？”張學良忍無可忍，破例回敬了一句：“我干不了你干！”
關于處決楊宇霆、常蔭槐的過程，歷來有各種傳說。據當事高紀毅的回憶，當時情形是這樣的：
他們走后，張學良立刻用電話召我進府，這時已是下午5點半鐘。我進府立被張召入內室，他從容不迫地向我說：“楊宇霆、常蔭槐兩人欺我太甚，他們想盡辦法，阻撓全國統一，今天又來強迫我成立東北鐵路督辦公署，并要發表常蔭槐為鐵路督辦，說是為的能管理中東鐵路。事關同蘇聯的外交問題，這事要辦也應該請示南京，從長計議。但他們要我立刻簽字發表，太不象話了。現在他們正在回去吃飯，少刻就會回來。我給你命令，立刻將他們2人處死，你率領衛士去執行好了！”我接受命令后，請示應在何處執行。
張學良指示說：就在老虎廳內執行，并以輕松的語氣囑咐我說：“你可要小心，他們二身邊都帶有手槍。”于是我配備6名衛士，由我同張學良的侍衛副官譚海率領，另由劉多筌擔任府內外警衛任務，只許進來，不許出去（劉當時僅知將有大事，但并不知要處死楊宇霆、常蔭槐。一切布置完竣，經過兩個多小時，楊、常來到，徑入老虎廳就座。我同譚海率領6名衛士持手槍進入老虎廳，立即對楊、常宣布說：“奉長官命令，你們兩阻撓國家統一，著將二位處死，即刻執行。”楊、常聞言，頓時木然，臉色慘白，一句話也沒說出，當即由6名衛士分為兩組執行。楊宇霆、常蔭槐2人分別被兩名衛士按住，一名衛士開槍，結果了性命，當夜陳尸老虎廳內。
張學良接著指示處理善后步驟，一面連夜以長途電話指示駐天津代表胡若愚，要他立刻向南京蔣介石報告處死楊、常的原因和經過，一面用文字寫成軍法會審形式，罪名是“妨礙統一，阻撓新政”，檢查官由我署名。我率徹夜工作，通宵未眠。翌晨天還未明，張學良召集張作相、翟文選、王樹翰、臧式毅、鄭謙、孫傳芳等東北保安委員會委員進府，宣布此事經過。這些乍聞之下，驚愕萬狀，面面相覷。同時張又囑鄭謙在另室草擬電報，正式報告南京，并昭告東北各縣市。鄭謙是楊宇霆的親信，提起筆來只是搖頭沉吟，一個字也寫不出來。過了片刻，他將筆丟下，起身要走。我嚴肅的警告他說：“從現在起沒有我的命令，任何都不能離開。”他只得重又坐下，呆然不動，但仍未動筆。最后還是改由劉鳴九執筆，將電報稿擬好。這時始將楊、常尸體從老虎廳用地毯包裹抬出，用汽車送到南頭風雨臺姜廟（楊宇霆為紀念姜登選修的廟）裝棺，聽由他們家親友吊祭。楊、常被殺的消息傳出以后，頓時震動了沈陽全城……
與此同時，張學良為懾服楊宇霆的派系勢力，運用恩威并濟的策略，除優撫家屬之外，還親自寫了一副挽聯：“詎同西蜀偏安，總為幼常揮痛淚;凄絕東山零雨，終憐管叔誤流言。”上聯比之于諸葛亮揮淚斬馬謖，下聯引用周公旦誅叔之典故，借以表達其復雜的情感。
翌日，張學良領銜發表了震驚中外的通電，全文如下：
統一告成，建設開始，凡我同志，正宜和衷共濟，協力圖功。學良受事以來，對于先舊有僚佐，無不推心置腹，虛衷延納，其中尤以東三省兵工廠督辦楊宇霆，黑龍江省長常蔭槐二，共事最久，倚界尤殷。乃楊、常朋比，操縱把持，致使一切政務，受其牽制，各事無從進行，腫其罪狀，厥有數端：溯自民國13年后屢次戰禍，均由彼二縱恿播弄而成，跡其陰謀私計，世或未知，自我先大元帥，佳電息爭，倡導和平，信使往來，南北協洽，獨彼二退回觀望，陰事阻撓，近如灤東五縣，不肯交還，其阻撓者一;平奉車輛，學良已商允交還，惟被二從中作梗不放行，坐使中外士，咸受苦痛，而車輛廢置破壞，公私損失，何可紀極，其阻撓者二;灤東撤兵，順應世局，正協心，而楊、常堅持異議，其阻撓者三。以上三端，學良曾再三婉商之;借友勸導之;用命令申斥之，而彼二概置不理，使中外士，對于我方不懷好感�，F遠因則釀成戰禍之罪魁;觀近因則破壞和平之禍首，論其罪狀，不獨害我東省，實害我中華。學良夙夜警惕，和冀奠我三省于磐石之安，勿令再有軍事行動，謀工商之發達，謀中外居民之幸福，使吾鄉父老子弟，安居樂業，耿耿之誠，可質天日。乃彼二包藏禍心，事事陰圖破壞，處處竭力把持，以兵工廠及交通事業為個私利之淵教，把持收入，不解省庫，且向省府通索巨款;其動用款項有案可稽者，已達現洋二萬萬余元，即無長官批示，亦無部處核銷，一手遮天，多私囊。任用多其親屬，政府歸其操縱，出門者，每予袒庇，非其私黨加以摧殘，前如王永江之被擯，郭松齡之激變，果誰為之？近如金融之擾亂，戰爭之延長，又誰致之？司馬昭之心，路皆知，吾東省皆知之，而世或未盡知也。學良黍膺疆寄，并以重任，待以腹心，誠欲化彼貪頑，共循軌道，同等念其多年共事，曲予包容，不謂彼輩奸險性成，日甚一日，近更暗結黨徒，圖危國家，念及此，易勝隱痛，學良與同等再四籌商，僉謂非去此二，東省大局，非待無建設之望，且將有變亂之萌。大義滅親，何況交友？毒蛇螫手，壯夫斷腕，學良等不敢違棄公誼，徒顧私情。當于真（十一）日召集會議，并邀彼二列席，當眾按狀拷問，皆已俯首服罪，詢謀金同，即時宣布罪狀，按法執行。國家自有定律，非同等所能輕重，所冀海內明達調察內情，共明真相，特電奉聞。
——張學良、張作相、萬福麟、張景惠、翟文選、劉尚清、劉哲。莫德惠、王樹翰、沈鴻烈、湯玉麟、袁金鎧。至此，張學良完成了鞏固東北政權的大事，也初步贏得了蔣介石的信任。二次北伐，以張學良易幟并鞏固了東北政權為最后的勝利標志，北洋軍閥統治中國的歷史宣告結束。蔣介石憑著他的權謀，總算在形式上完成了“統一大業”。
