1929年1月10日晚，杨宇霆放工回家，传闻有帅府请他去打牌的电话，没有用饭便驱车前去。谁料一进帅府，就同黑龙江省长常荫槐一起人车被扣，以吞扣军饷，贻误戎机，图谋不轨等莫须有的罪名，被张学良事前安排好的警务处长高纪毅、副官谭海等枪杀在帅府会客堂东大厅(老虎厅)。过后，张学良对自毁长城之举懊悔莫及，命统带刘多荃给杨、常两家各送去慰劳费一万元，并亲身给在法国留学的杨宇霆的宗子春元去信，安抚他放心学习。
张作霖与段系军阀合作时，为了援湘建立奉军总司令部，张作霖自任司令，徐树铮任副司令，杨宇霆任总参谋长。为了扩大分力，杨、徐在洛阳、信阳等地建立了四个旅的军队。张晓得后，非常活力，罢了他俩的官。被贬后，杨宇霆在北京(安宁门内净土寺胡同)赋闲，糊口由京津巨商李景明供应。
逃荒关外，在辽宁省法库县蛇山沟村庄户。父杨永昌，母亲张氏，以开大车店为生。1885年农历七月二旬日杨宇霆出世时，家道已好转。父亲靠劳动起家，以为读书无用，是以反对宇霆上学，后经人劝说，才勉强承诺他上了私塾。退学后，发蒙教员高先生发明他聪慧过人，刻苦好学，有过目成诵之才，怕误了他的出息，随将其先容到铁岭县张秀才那边就读，杨宇霆16岁便考中秀才。废科举后，由堂兄帮助赴日本士官黉舍留学。在日本学习期间，常和于珍(前任东北军将军)、邢士廉(前任东北智囊长)、熙洽(前任东北军吉林驻军参谋长)一起议论国事，与孙中山、蒋介石、傅作义也有手札来往。返国后即步入军界，由排长、连长，很快晋升为军器厂厂长。他治军松散，军纪严明，任少校教官时，深夜搞告急调集练习，总能从行列中挑出不穿袜子的兵士当场惩罚。有一次他外出返来，尖兵听出是他的声音，不问口令就放他入内，成果他惩罚了尖兵。张作霖非常赏识他的才调，调他任二十七师参谋长。而后他帮手张作霖慢慢翻开东北的政治、军事局面，小我也随之立名，成为张作霖身边的红人，在东北有“智囊”、“小诸葛”之称。