1931年，张自忠任东北军第三军师长，自此开始和日寇交锋，1933年初，日军进犯长城，张自忠在喜峰口前线指挥战斗，歼敌步兵两联队、骑兵一大队。1935年张自忠被任命为察哈尔省省主席，直接面对日本对于察哈尔的侵略，有效抵制了日本侵华的企图。1936年6月，张自忠走马上任天津市长，在任期间，主要精力都用于做外事工作，尤其是与日本人打交道，办事极难。此后的一年是张自忠一生中处境最困难的一年，是他内心最痛苦的一年，使张自忠苦痛的是，国人因不知情的不谅解，张自忠“心里苦得很”。
1937年初，日本主动出资邀请宋哲元访问日本，日本希望借此机会控制宋哲元。此事几经研究，最终决定由张自忠出面组成考察团赴日考察。此次行程，张自忠小心到从未一人与日本人接触。张自忠回国后，国民党一些内部人员造谣生事，称张自忠与日本人私下做了见不得人的勾当，并将亲日主和派这顶帽子扣在张自忠将军头上。抗战胜利后，有人对张自忠出访日本之事进行调查，查遍中日两方档案，得出的结论是“张自忠于26年(1937年)4、5月间之赴日考察，是在并非心甘情愿的情况下，奉宋哲元之命去执行一项矛盾而困难的任务……所幸张自忠去了日本，却未尝受制于狡黠的日本人，他自己忍受了诽谤，没有做出对不起国家民族和同胞同志的事。”当年曾经诽谤过张自忠的两名国民党官员，其中一人在七七事变后就投降日本，做了银行经理，另一人后解释说，当年说张自忠是主和派，并非是战略上的主和派，而是战术上的主和派。
1937年7月7日，七七事变爆发，当时张自忠将军在北平府右街养病，10日夜，张自忠按照政府的指示，拒绝了日方在停战协议中要中方撤出宛平城的无理要求。战事极为不利的情况下，为避免包围，宋哲元决定29军撤离北平。由于政府刚刚下达了29军死守北平三日的军令，张自忠冒险留守北平。蒋介石对张自忠留守北平的评价是“夫见危授命，烈士之行，古今犹多有之。至于当艰难之会，内断诸心，苟利国家，曾不以当世之是非毁誉乱其虑，此古大臣谋国之用心，固非寻常之人所及知，亦非寻常之人所能任也。”7月30日，因无后援，张自忠安葬了死难将士的遗体后，组织转移。但由于日军进攻，张自忠并未及时撤出北平。在日军的捉拿下，张自忠一日三迁，在外国友人处得到庇护。
9月3日，张自忠在英美等友人的帮助下，化装逃出北平，经天津到达山东。1937年底，张自忠被授命59军军长，投身于抗战的硝烟之中。“张自忠将军是第二次世界大战中，反法西斯阵营五十余同盟国中，战死沙场的最高将领。他是中华民族，反抗外族侵略的民族英雄。”
宜城祭
张垣封疆国破后。尘世伟业抗倭成。喜峰夜战国勋重。鲁鄂威棱起峥嵘。每战必居士卒先。发轫临沂报国情。援军三万城下誓。羸马劣枪死为生。拼战七日重破围。逾百连长易新名。板垣折半退七十。愕问可遇岳家兵。沙场血洗心头泪。耿耿沂水照胆明。转战三载称战圣。兵团总戎战功升。守河挥兵三十万。河西威扬上将旌。四赴江东催战鼓。余声至今撼旆钲。四渡襄江窑湾渡。江东五师奋马迎。北进大胜梅高庙。奉令南截两路征。移师密电破敌译。三面围攻武卫营。重兵十里并不拢。长官失聪无援兵。五月十六南瓜店。秃垣一片罄磨倾。短枪尽做长枪用。缠臂奋呼鬼神惊。近卫千人同难尽。英烈殉国千秋铭。苍天不解赐名训。泪干我知庆宜城。
返江立雨天有泪。扶桑初造陈集茔。移榇灵车宜昌去。半日路程二日行。村村香酒遮路祭。孝兵心碎感至诚。跪扶老妪携老叟。垂髫伏地声嘤嘤。言说家母病无力。悲凉夜起做肴蒸。将军山东临清汉。不善食谷黑豆生。我待将军朝日醒。送罢炊蒸母心宁。灵车过后人心起。从此家家有戎丁。刘猴镇前堞霓路。险坷似诉华北情。捧节樽俎人鬼怨。未见一字以自明。彻夜未眠七七夜。扶剑哀兵战宛平。责失平津冤无恨。十万大刀青史铭。宜昌灵船待入蜀。十万人送倾全城。众呼将军为我去。送君何惧敌机狞。大江码头魂幡启。渝州船祭供特牲。陪都百官扶柩恸。千人公祭杨家坪。民族英雄张自忠。重庆延安同一声。梅花山上权厝墓。山下田汉诗声铮。以躯为弹军人份。和血吞牙国土心。