而此时，日本人却看到了一个巨大的机会出现在在了眼前，自“九一八”时间以后，日本人占领的了东北以后，并且扶植末代皇帝溥仪在沈阳建立的伪满洲国，马上就开始觊觎起华北，于是日本的关东军开始在东北与华北交接的地方，频频制造事端。
在一九三三年春天的时候，日本关东军在空军的协同下，开始想热河省（现在分别属于河北、辽宁和内蒙古）发起进攻与驻扎在华北的的国民革民军发生交战，但是当时的热河主席汤玉麟不战而逃，面对着失去主将的部队，剩下的战士自然没有更强烈的时期去对付日本人，到了三月初的时候，日本关东军已经占领了热河全境，而且直逼长城。当时的情况非常的紧急，在这里驻扎的中国军队士气低落，不堪再战。
所以当时国民党中央派遣何应钦在一九三三年三月十一日的时候接替了张学良的职务，担任国民政府军事委员会北平分会委员长。何应钦把了北平就开始整顿当时在华北的军队，他先是将驻扎在那里的东北军缩编成四个军，以万福麟、于学忠、何柱国和王以哲分任军长。同时他看到了日军关东军的攻势很猛，知道光靠东北军是挡不住日本关东军的进攻的，所以他便向南京政府求援，于是南京政府增调了一部分西北军开始向华北前线推进。就这样，当时驻扎在山西的宋哲元第二十九军被调到了北平以东，来加强华北的防御。在二十九军到了前线以后。何应钦马上就任命宋哲元为华北第二三军团的总指挥。这样，长城一线一下子就有了七、八个军的力量。
宋哲元军的老底子是冯玉祥的西北军。一九三零年中原大战的时候，冯玉祥被蒋介石打败，西北军一些零散部队就退到山西了，经过张学良改编，组成了第二十九军，宋哲元任军长，下辖冯治安第三十七师、张自忠第三十八师和刘汝明暂编第二师。冯治安师下辖两个旅，张自忠师下辖三个旅，刘汝明师主力只有一个李金田旅。宋哲元军的长官，都是冯玉祥当初一手提拔培养起来的，他们继承了西北军刻苦练兵的传统。
当时宋哲元等人深受冯玉祥的影响，具有一些的爱国思想，并且提出了“枪口不对内”的口号，有些军官还参观过第十九路军在上海的抗战，向士兵们传达了打败日军的经验。经过刻苦训练，全军有了相当的规模和战斗力，唯一不足的就是我们极度的缺乏武器，军中汉阳造步枪和毛瑟枪各占三分之一，另一部分是从孙殿英那里买来的土造枪，枪械不仅陈旧，而且补充弹药也困难。当时全军只有十几门野炮和山炮，重机枪不过百挺，轻机枪每连仅有两挺，步枪没有刺刀，所以只好发扬西北军的传统，让士兵们背上大刀。当时西北军用的大刀，都是长柄、宽刃、刀尖倾斜的传统中国刀，十分利于劈杀。冯玉祥还聘请了一批武术高手，设计了一套适合对付敌人刺刀的刀术，让部队勤加练习。结果，当初为了应急用的大刀，反而成了西北军的重要武器之一。在以后的战斗中战士们寻求近战和夜战，勇猛地冲向日军，用大刀向鬼子们的头上砍去。
蒋介石眼里的这支“杂牌军”装备远不如中央军，但他们吃苦耐劳的精神和顽强战斗的作风，是许多中央军部队望尘莫及的。这些官兵从西北军到第二十九军，平时练兵都以日军为假想敌。当他们奉命从山西调往冀东，防守华北前线，准备对日作战时，全体官兵爱国热情高昂，士气旺盛。
就在这样的情况之下，一只兵比枪多，枪比子弹多的部队，被何下令开赴长城喜峰口、罗文峪和马兰峪一线，抵御日军的进攻。
而当时日本关东军确实是不可小觑啊，也是属于兵多将广，就在九一八事变以后，日本天皇，迅速的对当时的日本关东军的领导阶层进行了大规模的调整，并且扩大了当时关东军的规模，将参谋本部的教育总监、军事参议官武藤信义重新披挂上马，来担任关东军的司令。辖陆军第六师团、第七师团、第八师团、第二十师团四个师团和步兵第三旅团、步兵第十五旅团、混成第四旅团、混成第八旅团、混成第三十八旅团、混成第三十九旅团。六个旅团及一个拥万余兵力的独立守备队，成为了一个差不多拥有十余万兵力的常设兵团。还令陆军中将小矶国昭为关东军参谋长，而当时任关东军副参谋长就是在后来臭名昭著的侵华日军总司令，当时只是一个陆军少将的冈村宁次，而且破格提拔九一八事变中的急先锋陆军大佐原关东军高级参谋坂垣征四郎为满洲国执政之顾问，兼任关东军副参谋长晋升为少将军衔；还有原关东军特务机关长，陆军大佐土肥原贤二为特务机关长，兼任第九旅团旅团长，晋升为少将军衔。你想想就这几个老鬼子待在了一起，会有什么好主意么。
在他们几个老鬼子的策划之下，在一月一日的时候，日本关东军以我国民革命军向日军投掷手榴弹为借口开始向山海关进发，一时间，驻扎在山海关的我军只有两个营，在团长石世安的率领下，面对着数倍于我的敌人，开始了激烈的交战。到了晚上的时候，山海关的四个门已经全部被日军攻破，所以我军在击毙敌人四百余人，但是自己仅剩十几人的情况之下，在石世安的率领下从水门突围。