1928年6月4日清晨5时许，张作霖在沈阳皇姑屯被炸成重伤，送回大帅府后不治身亡。6月23日，东三省军民联合会议，这是一场事关东三省无数人命运的会议。会议上讨论通过恢复东三省保安总司令的头衔。
究竟谁来担任这个保安总司令呢？包括张学良、杨宇霆等人在内认为张作相最有资格。张作相和张作霖是结拜兄弟，此人年少家境贫寒，当过泥瓦匠。1901年，张作相打死了族兄仇人被迫投身绿林。
张作相落草为寇不久，他带着二三十人投奔了张作霖。张作相和张作霖两人名字只差一字，这只是巧合。张作霖对张作相非常信任，多次患难之交后，两人结为兄弟。当张作霖所部改为奉天陆军第27师，张作相出任奉天陆军第27师师长。1919年初，升任东三省巡阅使署总参谋长兼卫队旅旅长、奉天警备总司令，并代理奉天陆军27师师长。
郭松龄反叛失败后，张作霖决定将所有倒戈反叛将领一律枪决。张作相表示反对，认为只要处死郭松龄夫妇都可以了，张作霖最终采纳了他的意见。此事过后，张作相在奉军的威望非常之高，如果由他担任下一任“东北王”，奉军将领不会有多大意见。
然而，张作相直接拒绝了，先后三次退回了张学良派人送来的“东三省议会联合会”公推书和印信。张作相向奉军将领多次表示，“老帅已逝，子承父业，顺理成章，自己将全力辅佐之。”张作相无条件支持张学良，他私下来到说服奉军军政要员，最终使得大家一举支持张学良。
当张学良决定“东北易帜”时，张作相又坚定地站在他这一边。张作相对张学良说：“小六子（张学良的乳名），你放手去干，我会支持你的。在公的方面，如果我不服从你的命令，你只管拿军法来办为；可是私底下你是我的侄儿，如果你不好好地干，我会在没人的时候，打你的耳光。”
然而，张学良最终还是辜负了张作相的期望。1931年“九一八”事变发生时，张作相正在家乡处理父亲丧事。事变后，张作相立即前往北平与张学良商讨对策，南京方面则任命张作相代理东北边防司令长官，遭到拒绝。
1933年，张作相出任国民政府军事委员会北平分会委员。热河失守后，张学良被迫下野，张作相则愤怒辞职，从此隐居天津。闲居天津期间，任凭日本人如何拉拢，张作相就是不为所动。解放战争时期，张作相多次拒绝蒋介石的邀请出山。1949年4月19日，张作相因突发脑溢血去世，享年68岁。