1937年初，日本主动出资邀请宋哲元访问日本，日本希望借此机会控制宋哲元。此事几经研究，最终决定由张自忠出面组成考察团赴日考察。此次行程，张自忠小心到从未一人与日本人接触。张自忠回国后，国民党一些内部人员造谣生事，称张自忠与日本人私下做了见不得人的勾当，并将亲日主和派这顶帽子扣在张自忠将军头上。抗战胜利后，有人对张自忠出访日本之事进行调查，查遍中日两方档案，得出的结论是“张自忠于26年(1937年)4、5月间之赴日考察，是在并非心甘情愿的情况下，奉宋哲元之命去执行一项矛盾而困难的任务……所幸张自忠去了日本，却未尝受制于狡黠的日本人，他自己忍受了诽谤，没有做出对不起国家民族和同胞同志的事。”当年曾经诽谤过张自忠的两名国民党官员，其中一人在七七事变后就投降日本，做了银行经理，另一人后解释说，当年说张自忠是主和派，并非是战略上的主和派，而是战术上的主和派。

1937年7月7日，七七事变爆发，当时张自忠将军在北平府右街养病，10日夜，张自忠按照政府的指示，拒绝了日方在停战协议中要中方撤出宛平城的无理要求。战事极为不利的情况下，为避免包围，宋哲元决定29军撤离北平。由于政府刚刚下达了29军死守北平三日的军令，张自忠冒险留守北平。蒋介石对张自忠留守北平的评价是“夫见危授命，烈士之行，古今犹多有之。至于当艰难之会，内断诸心，苟利国家，曾不以当世之是非毁誉乱其虑，此古大臣谋国之用心，固非寻常之人所及知，亦非寻常之人所能任也。”7月30日，因无后援，张自忠安葬了死难将士的遗体后，组织转移。但由于日军进攻，张自忠并未及时撤出北平。在日军的捉拿下，张自忠一日三迁，在外国友人处得到庇护。