1924年春，张自忠被冯玉祥任命为学兵团团长。是年秋，第二次直奉战争爆发。吴佩孚任命冯玉祥为第三军总司令，令其出古北口进击开鲁，但冯玉祥暗中班师回京，与驻防北京的孙岳部里应外合，发动北京政变，囚禁直系首领曹锟，并将溥仪皇帝驱逐出宫。在此过程中，张自忠部受命由古北口直趋长辛店，截击吴佩孚的交通兵团，迫其缴械投降。不久，张自忠奉命移驻丰台。张自忠率部到达丰台，驱逐英军，重获丰台主权。

　　1930年5月，中国近代史上规模空前的军阀混战——蒋冯阎中原大战爆发，双方投入的兵力高达130万人。此时，张自忠任第6师师长，编入张维玺统领的南路军。5月初，南路军首先在平汉线向蒋军开战。5月中旬，张自忠指挥第6师一夜之间从蒋军徐源泉部手中夺回许昌十五里店。6月中旬，张自忠等部由平汉线转用于陇海线，支援东路军。在高贤集打败蒋军精锐张治中之教导第2师。他的参谋长张克侠评价说：“其决心坚强，临危振奋。每当情况急迫之时，辄镇静自持，神色夷然。”

　　1930年9月18日，一直坐山观虎斗的东北军统帅张学良宣布放弃中立立场，通电拥蒋，随即挥师入关，占领华北。张自忠的第六师除了配属粱冠英的第十七旅随梁投蒋外，尚有第十五、十六旅一部和手枪团大部，约5000人，是西北军残部中最完整的部队之一。

　　1931年1月16日，西北军残部正式编成东北边防军第三军，宋哲元任军长，秦德纯、刘汝明任副军长，冯治安任三十七师师长，张自忠为三十八师师长。同年6月，南京政府开始整编全国陆军，第三军改番号为第二十九军。

　　张自忠战死沙场!

　　1933年1月10日，二十九军主力奉命由山西阳泉开赴通州、三河、蓟县、玉田待命。这是张自忠有生以来第一次同日军交战。