与蓝天蔚发生冲突，张作霖想下掉蓝天蔚的枪，被赵尔巽假意制止。但这一举动，也给蓝天蔚构成了威胁。张作霖是挤走蓝天蔚的帮凶。
  诱杀张榕
  张榕首先做的一件大事是发起成立了一个革命组织。蓝天蔚等离开东北后，东北革命者群龙无首，各派有分崩离析之势。张榕与革命党人张根仁、柳大年等积极策划成立一个革命组织，以把分散的革命力量组织起来。他们就成立了奉天联合急进会，各界参加的人很多。他们的宗旨是：“将以响应南方，牵制北军势力，使清帝不敢东归，赵督不敢独立。”①推举张榕为会长，柳大年等为副会长，密谋武装起义。他们派人到辽阳、海城、海龙、兴京各地，运动军警，组织民军，参加民军的有一万多人，连当地的官吏也不敢干涉，形成了一股声势浩大的革命势头。
  对张榕的所有举动，赵尔巽都看在眼里，记在心上。他“侦知其谋，惮之弥切”。赵尔巽在成立保安公会时，还给了张榕一个有名无实的参议副长的官位，以便迷惑笼络张榕。张榕是个光明磊落之人，对赵尔巽的阴险狡诈没有任何防备。张榕认为袁金铠是自己人，对他无话不讲，这就泄露了组织内部的秘密。其实，袁金铠是赵尔巽的心腹。袁金铠把急进会的起义计划密告了赵尔巽，赵尔巽就派张作霖设计杀害张榕。
  本来赵尔巽早就派张作霖秘密监视张榕的一举一动，同时让张作霖和张榕虚与周旋，待机而动。１９１２年１月２３日晚，袁金铠怂恿张榕请张作霖到平康里得意楼便宴，张榕不知是计，就照办了。酒饭将毕，袁金铠借故先支走了张作霖，以便张作霖去布置人杀害张榕。酒席散后，张榕在往回走时，遭到两个人的枪击，当场毙命，时年２８岁。这两个人就是张作霖的密探。
  随后，他们查抄了张榕的家，接着又查抄了张榕哥哥的家。当晚，张作霖又派人杀害了张榕的助手革命党人宝琨和田又横。以后几天，继续大搜捕，有一百多人被杀，白色恐怖笼罩整个省城。对这次血腥的反动暴行，张作霖向赵尔巽专门写了一个呈文，以表其功。赵尔巽批示：“该统领不动声色，连毙三凶，实足以快人心，而彰显戮。”①对张作霖的暴行，他极力称赞。
  由于张作霖镇压革命有功，经赵尔巽的保奏，清廷任命张作霖为关外练兵大臣，赏戴花翎，以总兵记名，并将其所部改为第二十四镇，成为一个师的建制，授为统制（师长），并兼奉天巡防营总办。从此，张作霖掌握了奉天省的军事大权。
  取悦袁氏
  其实，这并不是说，他对小皇帝有什么特殊的感情，非得保皇不可。他这是在表示忠心，以便取得袁世凯的信任，为将来的提升预留地步。虽然张作霖的保皇论调同袁世凯的假共和主张有矛盾，但是，老奸巨猾的袁世凯从张作霖的表忠电里，已经嗅出张作霖是个可以利用的鹰犬。因此，袁世凯便对张作霖采取了暗中联络的策略，派出信使，发出密信，在信中说明宣统皇帝退位，势在必行。并诱之以利，清帝退位后，答应必“任卿为东三省防务督办”。这对抱着“有奶便是娘”的信条的张作霖来说，是个天大的喜讯。从此，以这个政治交易为契机，他们二位就紧紧地结合在一起了。张作霖心领神会，自然放弃了保皇论，摇身一变，而成为共和制的积极拥护者了。他“两次致电袁世凯表示赞成共和”，从而成为袁世凯的真正帮凶。
  张作霖认准抱定袁世凯这条粗腿对他有利，便一再地向袁世凯表忠。袁世凯当上了临时大总统，他觉得还不够，就致电拥戴袁世凯当正式大总统。电文云：“国体既定，临时共和政府已成立，窃维推选袁世凯为大总统，实属至当。”张作霖很怕慢于他人，抢先表态。在以后的许多重大问题上，如袁世凯不想离开他的老巢北京等事件上，张作霖都亦步亦趋，紧跟袁世凯，表示忠顺。这些作法，也确实得到了袁世凯的首肯，张作霖也理所当然地得到了应有的回报。
  当上师长
  这在张作霖一生的经历中，是十分重要的一环。原来的巡防营是地方治安部队，是由东三省筹资维护的，主要任务是辅助陆军攻守和协同巡警捕盗。而陆军师团，则是负责国防要务，兼司地方剿匪，是国家的正规部队，由中央拨款装备，归国家调遣。陆军第二十七师的编制有了很大的提升。由原来马步单一兵种的落后部队改编为多兵种合成的先进部队。它有５个兵种，即步兵２个旅，骑兵１个团，炮兵１个团，工兵１个营，辎重兵１个营。相对而言，该部队装备精良，面目一新。
  张作霖本人升官，他的老班底也跟着升迁。张作霖命汤玉麟为第五十三旅旅长，孙烈臣为五十四旅旅长，张景惠为骑兵第二十七团团长，张作相为炮兵第二十七团团长①。其余的团、营、连长也都是张作霖的亲信。因此，陆军第二十七师名义上虽为国家的军队，实质上却是张作霖的私家军。官官之间、官兵之间、兵兵之间，是用亲戚、乡党、盟友、帮派联系在一起的。他们以帮派利益和兄弟义气为纽带，结成了牢固的封建群体。他们只听命于一个人的指挥，这个人就是他们的恩人张作霖。陆军第二十七师实质就是张作霖个人的家兵家将。
  当时，东三省还有三支部队。其一是冯德麟的陆军第二十八师，是由原巡防营左路改编的，编制２个旅。冯德麟任师长，张海鹏、汲金纯分任旅长，驻北镇。军力显然弱于张作霖的师。其二是由原巡防营后路抽调一部分改编为陆军骑兵第二旅，吴俊升任旅长，兼巡防营统领和洮南镇守使，负责奉省西北的地方治安，驻洮南。其三是巡防营右路未变，由东边道镇守使马龙潭统辖，仍驻原地凤城。
  这三支部队，其装备、数量、兵种、驻地等，都不能和张作霖的陆军第二十七师相比，他们都是弱旅。其时的张作霖占有了天时、地利、人和三大有利条件。张作霖此时变成了东三省举足轻重的武装力量。这为他后来的发展奠定了可靠的基础。
  排挤锡銮
  这一改派，袁世凯是经过慎重考虑的。张锡銮是他的老把兄弟，很是可靠。而且张锡銮原在奉天任过奉天巡防营务处总办，那时张作霖任前路巡防营统领，冯德麟任后路巡防营统领，两人都是张锡銮的老部下。这次老上司前来，他们总得给点面子。这是袁世凯打的如意算盘。可是，今非昔比了。今天的张作霖已不是昨天的张作霖了。张锡銮是１８４３年生，１９１４年他已是７１岁的老人了。面对咄咄逼人的张作霖，他感到力不从心。
  但这是袁世凯的一招棋。袁世凯对张作霖是不放心的。他对张作霖采取的是既利用又限制的策略。而张作霖也不是白给的，他对袁世凯的招数洞若观火，便采取了既逢迎又反抗的策略。１９１３年３月２０日，袁世凯在密谋刺杀革命党人宋教仁后，接着就对南方的革命党人发起了进攻。
  袁世凯为了有一个稳固的后方，便在北京首次召见了张作霖。袁世凯对张作霖说：“东三省形势危险，全仗军威镇慑，赖以有今日之安宁。嗣后仍当振刷精神，为东三省人民谋幸福。本总统有厚望焉。”袁世凯让张作霖感到升官有望，前途无量。张作霖立即表态，坚决照办。张作霖这次被袁世凯召见，成了张作霖的一个政治资本。
  张作霖没把张锡銮看在眼里，对张锡銮是表面逢迎，暗地排挤。张作霖虽然只是一个师长，但他手中握有兵权，且这一师的官兵只听他一个人指挥。再加上被袁世凯专门召见，因此，全省各界对张作霖都另眼相看。据记载：他家“成为全省政治中心，每日宾客如云，文武官员都有。无论与张有无关系的事情，都与他相商或征求他的意见，事先必使他与闻。如赵尔巽拟请王永江为奉天民政司，张有不悦之色，赵即不敢提出。”①张作霖俨然是东三省的太上皇了。
  １９１５年，张作霖曾两次赴京，“秘密接纳政府要人，试图运动继任奉天将军的职务”。这在当时的《盛京时报》都有报道，不是什么秘密。对这种报道，张作霖没有加以制止，他愿意有这种舆论。其目的是想给张锡銮造成一种压力，以便逼迫张锡銮自动要求调走。
  在这种情况下，张锡銮感到处境尴尬，再加上年迈体衰，就向袁世凯提出辞呈。１９１５年８月，张锡銮被调走，任湖北将军。张作霖排挤张锡銮的目的达到了，但是，这个奉天将军的位置没有给他，而是给了袁世凯的亲信段芝贵。张作霖还得等待。
  驱逐芝贵
  这个段芝贵是大有来头的。段芝贵，字香岩，安徽合肥人，１８６９年生。北洋武备学堂出身，后留学日本。曾任袁世凯新建陆军讲武堂教官。１９１２年任武卫军总司令。１９１３年授陆军上将，任陆军第一军军长。１９１４年授彰武上将军，署理湖北军务。他这次是和张锡銮对调。１９１５年８月，授镇武上将军，节制奉天、吉林、黑龙江军务，兼奉天巡按使，又封为一等公。此时他才４６岁，可以说是年富力强，阅历丰富，头衔繁多，翎顶辉煌。
  最令人可畏的是，他有强大的后台。而且，他本身就是一个军人。段芝贵不仅是袁世凯的心腹，他和张作霖还有一段交情。原来，在张作霖受抚时，段芝贵的父亲曾出过力。从某种程度讲，段芝贵有恩于张作霖。可见，袁世凯的这个安排，是煞费苦心的。
  段芝贵走马上任，随带卫队一团，但留在京畿滦东一带，只带少数人来奉。到奉天时，就下榻于张作霖第二十七师的司令部，以表示对张作霖的信任。张作霖深知段芝贵的来历，知道不能硬碰，必须韬光养晦，待机而起。因此，对段芝贵极尽逢迎之能事，甚至“不时搜购珍贵古玩，馈送段父，以买其欢心”。
  在袁世凯称帝的关键活动中，张作霖更是进行了露骨的表演。他积极支持段芝贵。在奉天举行国民代表大会，投票表决国体问题时，张作霖带着大队人马，荷枪实弹，监视投票，结果全部投票赞成君主制。当段芝贵联合广东龙济光等２４省将军，密呈袁世凯“速登大位”之时，张作霖也不甘人后，密电袁世凯劝进。又表态道：“如帝制不成，死不再生。”张作霖就是这样的以罕见肉麻的行动支持袁世凯恢复帝制。
  １９１５年１２月１２日，袁世凯甘冒天下之大不韪，自称皇帝，当即遭到全国的反对。同年，１２月底，逃出北京的蔡锷在云南组织护国军，首先举起反袁的大旗。此后，各省相继宣布独立，起兵讨袁，一致要求取消帝制。在四面楚歌之时，袁世凯想到了向他表忠的张作霖，他要求张作霖出兵湖南，并许诺以后可以封公封侯。这是袁世凯最后的一棵救命稻草。
  张作霖看到袁世凯大势已去，便决心反袁。但是，他还是表示听袁调遣，以便骗取饷械。待饷械到手后，他突然变脸，来了一个一百八十度的大转弯，提出了“奉人治奉”的口号，表示不能离开奉天。
  这时，全国反对帝制的呼声异常强烈，袁世凯不得不于１９１６年３月２３日宣布取消帝制。但他仍然窃据民国总统的宝座，借以发号施令，企图镇压反对派。
  此时，二十七师师长张作霖和二十八师师长冯德麟相互勾结，导演了一场驱段的闹剧。冯德麟为张作霖出主意：“段芝贵是清末官吏败类，秽史劣迹人所共知，今为东三省帝制祸首，仍然居奉天人士之上，我辈绝不甘心，应该驱逐他。”张作霖问用什么方法。冯德麟胸有成竹地说：“这个不难。由我们二十八师演黑脸，和他作正面冲突。由二十七师演白脸，用吓字诀逼他畏罪逃走。这样演一幕不费一兵一文的滑稽戏，岂不妙哉！”张作霖鼓掌赞成说：“让各方面的人也知道奉天人是不好惹的！”①
  张作霖深感正和吾意，两人一拍即合，便开始行动。张作霖布置军队于某夜开枪，然后假意到段芝贵处报告，说冯德麟要率二十八师部队进城，惩办帝制祸首段芝贵。张作霖表示自己无法制止。段芝贵听后，十分紧张。张作霖借机劝段芝贵避一避，段感到这是一个好办法。经电请中央批准，段芝贵便乘机攫取巨额官款和若干军火，乘一列专车赴津。
  这一切，均在张作霖和冯德麟的掌握之中。但他们佯装不知，还特派五十四旅孙旅长率一营兵护送。他们随后布置二十八师汲金纯旅的一个团在沟帮子车站拦截了该列火车。团长邱恩荣上车，以奉天军民的名义，交电报两封，内称：“卸任上