山西这种地形严重影响进攻一方辎重运输。
全面开战
当时板垣征四郎也急于攻入山西腹地，他经过再三思考，决定选择平型关作为突破点，用自己的第5师团作为主攻力量。他并没有听从东条英机提出的，以察哈尔派遣军3个旅团从北向南主攻雁门关，由板垣从侧翼助攻的主张。
板垣在占领灵丘以后，虽然收到寺内寿一大将将整个师团调回河北的命令，却并没有停止进攻。他决定尽快出兵，乘着晋绥军立足未稳迅速将其击溃，占领平型关。
由此看来阎锡山分析的是正确的，他的军事头脑还是挺了不起的。
晋绥军并没有闲着，他们也紧急部署。日本空军侦察机告诉板垣征四郎，平型关和雁门关一线晋绥军正在大量集结，恐怕很快就会做好防御准备。
由此板垣征四郎决定立即全面进攻，从9月22日第5师团的21旅团下属2个联队中的第21联队从灵丘出发，杀入平型关一线，主攻团城口，东西跑池等地区。
日军来的很快，晋绥军准备却不足。
高桂滋17军刚刚经过广灵激战，遭受了一定的伤亡，接着又急行军赶往平型关阵地。该军赶到阵地不久，尚且还在破坏晋绥军没有来得及破坏的公路，就与紧追而来的日军遭遇。
日军先头部队和高桂滋军破路部队狭路相逢，两军混战，由此平型关战役开打。
日军21联队战斗力很强，加上刚刚在南口，大同获胜，锐气十足，不易抵挡。防御此处的高桂滋17军奋力抵抗，战至24日，不过短短一天多时间，高桂滋守军伤亡超过千人。
高桂滋要求就在后面几公里处的晋绥军孙楚33军给予支援，但孙楚借口兵力不足，按兵不动。
高桂滋又苦撑几日，仅仅该军下辖2个师的其中1个伤亡了2600多人。除了兵员损失很大以外，由于日军火炮封锁，连饭都送不上来，前线官兵3天没有吃饭。
这几天又是大雨，高军官兵站在积水齐腰深的战壕中作战，非常艰苦。
加上从南口战役开始，高桂滋17军一路连续作战，一路都是急行军，前后战斗了2个多月时间，并没有一时一刻的修整。此时17军的全体官兵都非常疲惫，实在不能支持。
而孙楚33军并没有和日军交过手，是一个整编满员的军。这样一支部队，居然就在高桂滋部后方按兵不动，这不得不让人有所想法。
高桂滋军长是个直肠子，他认为晋绥军显然是准备用自己部队挡在前面，由自己造成日军较大消耗以后，晋绥才上来作战，捡现成的便宜。
对此，高桂滋自然感觉忍无可忍，他立即跳过33军军长孙楚和集团军司令杨爱源，直接给阎锡山发报求援。没想到阎锡山的意思跟孙楚没什么不同，最终只得到阎锡山的口头承诺。
此时的高桂滋不觉恼羞成怒，开始准备蛮干了。
高本来就是西北军冯玉祥麾下的一个师长，后自立门户成为一个不大不小的军阀，手下有一个师，也就是84师几千人的兵力。此次和李仙洲主要是山东人的21师合并为17军，主干官兵基本都是军阀出身，全军从上到下对军阀这套都是很熟悉的。
高认定晋绥军山西佬明显是用他们西北军顶在前面挡日本人。
其实让17军挡鬼子不是说就不能挡，但晋绥军至少也要一起挡啊，这才是两军合作的样子。就算是当时江湖上打群架，也是要讲规矩的，不能你不上在旁边看着，像孙楚这样做就是不讲规矩。
现在晋绥33军一个满员的军按兵不动，让高桂滋1个残破不全的军自己去挡，完全就是不是自己生的儿子不疼，就是让他们做替死鬼嘛。
所以高桂滋最后坚决要求撤退，并且由马上就要赶到战场的郭宗汾的晋绥军预备2军接防，不然自己部队就放弃阵地后撤。当时高桂滋电报全文为：再无援军，只有出于冒犯军令进行撤退之一途。
晋绥军没有办法，决定派出小股部队应付一下高。
高桂滋一个旅的阵地，晋绥军仅仅派遣2个连来接防。
但有两个连，总比一毛不拔要好。在这两个连到了以后，高桂滋军的军官让他们进入阵地协助防守。没想到这2个连的晋绥军却说：我们是奉命来给你们壮声势，帮你们提高士气，不是来打仗的。
听到这句话，高桂滋的军官们差点气吐了血。
后来在高桂滋军官威逼利诱下，这2个连最终勉强同意进入阵地协助防守。
结果又出了大笑话。
这2个晋绥军连刚靠近阵地，就发现日军重炮雨点一样打来，他们赶忙停止行军，原地卧倒不动。
稍后他们又看见日军密集冲锋上来，高桂滋部奋勇和日军肉搏，大刀对刺刀，杀得四处血肉横飞，尸横遍野，人头在地上乱滚。
这2个连上上下下顿时吓得魂飞魄散，自发的立即转身后撤，飞一般的跑了。他们仓皇的钻入一个山沟埋伏起来，连头也不敢抬，至于接防阵地也就再也不用想了。
当时双军已经激战整整6天，日军21旅团21联队攻破了高桂滋17军主阵地，17军伤亡惨重，粮弹耗尽，无力继续作战了。
旅长高建白问军长高桂滋怎么办，要不要组织反攻。
高桂滋愤愤的说：管他娘呢，我们撤我们的。难道山西是我们的地盘？这是他们晋绥军的地盘。我们就因为保家卫国来山西跟日本鬼子拼命，晋绥军几万人却躲在我们后面，用我们去挡鬼子。我们守了这几天，伤亡这么大，也算对得起他们了……
团城口由此失守，平型关全局震动，但防线仍然顽强。
对此晋绥军的军长陈长捷居然愤愤不平，在回忆录中大骂高桂滋放弃阵地，还说高桂滋比放弃张家口的刘汝明更该杀。
高桂滋后来差点为此掉了脑袋。
在高桂滋军后撤的时候，郭宗汾的预备2军已经赶到一线战场。
郭宗汾奉命反攻，夺回高桂滋军失去的阵地。
郭宗汾军的3个旅全线进攻的同时，阎锡山也命令林彪的115师配合切断日军补给线。
结果郭军出击的时候，却意外遭遇日军的反冲击，两军发生混战。同时平型关正面的孙楚33军也和日军激战不止，国军第一轮反攻开始。
从9月23日到26日，双方反复争夺东跑池等地，来来回回形成拉锯战，到处都是血战，遍地都是尸体。
27日，孙楚33军独立8旅孟宪吉旅长亲到阵地督战，看到一个营战士血战整整5昼夜，原有500多人的一营，只剩148人。
虽然国军损失很大，但毕竟兵力远多于日军，日军21联队在平型关一线被国军包围，伤亡惨重，处境非常艰难，大有被全歼的态势。
也就在正面激烈火拼的时候，八路军利用21联队的自顾不暇，乘虚在平型关后方伏击了第5师团21旅团的一支后勤辎重部队，歼灭了800多人，其中绝大部分都不是野战部队。
由此，日军21联队的后勤也在之后几天内基本断绝。
此时在后方的板垣征四郎得知21联队被包围，辎重部队也遭受袭击的情报以后大惊失色，他紧急调动手上仅有的21旅团第42联队从蔚县迅速开往平型关一线。
日军一个联队近有4000多人，不可能有效对付数万国军。
由于自知兵力不足，却实在无兵可用，板垣征四郎被迫向北路察哈尔派遣军司令东条英机求援。
东条英机还算仗义，他命令正在从大同南下的察哈尔派遣军独立混成第2旅团以十川次郎第1联队为骨干，组成十川支队赶赴平型关增援第5师团。
于是两支部队约1万大军赶来增援，都沿着公路急速前进。本来阎锡山给八路军的命令是彻底切断平型关公路，但当时负责切断后勤补给线的八路军115师因为畏惧日军大部队回来报复，此时早已经放弃伏击阵地撤退了。
日军沿着公路前进并没有遭到什么抵抗，迅速赶到平型关前线。只是在路上，他们看到了辎重队被八路军115师伏击后，几乎全军覆没的所谓惨状。
在这支生力军的支援下，日军在平型关又扭转了局面。日军用轻重火炮猛烈轰击晋绥军，一度将郭宗汾军长也包围起来，情况转为对国军不利。
见郭军并没有获得决定性胜利，反而陷入苦战，焦急的阎锡山紧急命令作为平型关战役预备队的陈长捷61军立即支援（当时在代县待命），并且命令晋绥军能力最强的大将傅作义统一指挥平型关战役。
61军因为原军长李服膺被杀，全军非常震惊，士气迅速恢复，战斗力也大为增强。
而军长陈长捷虽然傲慢自大，持才辱物，却也是晋绥军中最有名的战将之一，军事能力相当了得。
61军放弃雁门关附近的代县阵地，火速杀入平型关一线。
由于军情紧急，该军冒着倾盆大雨全力行军，路上来不及生火做饭，每个人吃几个冷饭团代替。
陈长捷61军进入战场后，一举扭转了平型关战役的局面，郭宗汾预备2军，孙楚33军，高桂滋17军各部也同时全线出击，开始了国军对日军3个联队的第二轮进攻。
日军防御能力比进攻能力还要强过一大截，期间战斗极为惨烈。
日军固守某一点就死守不撤，轻重机枪配合掷弹筒和九二步兵炮形成一个完整的火力圈，如果没有火炮和重机枪进行火力压制，是极难攻进去的。
而日军作战斗志也非常顽强，林彪115师在平型关战斗中歼灭日军800多人。按照全世界军事常规来说，一般俘虏率至少在百分之十以上。对于四面被全部包围的军队，被俘人数有时候占到参战总数的一半以上。
但115师在平型关战斗中居然没有捉到一个活的，可见日军防御之顽强。
平型关战役中国军也没有俘虏多少日军，其中有一次俘虏6个日军，也是1个军医带着5个卫生兵而已。
当然，国军作战也非常英勇。
晋绥军61军434团奉命向鹞子涧日军发动进攻，434 团与敌奋力拼杀一举占领鹞子涧，却因突入太深而陷入日军包围中。
团长程继贤与全团千名官兵誓死不退，和日军多达一个联队的兵力血战数小时，结果大部壮烈牺牲，仅有100多人侥幸突围，其中军官仅有团副郭唐贤、营长张景舜及一通讯排长三人，他们还是奉命率部突围的。
程继贤是山西太古人，殉国时年仅27岁。由于该团誓死抵抗，日军的伤亡也非常惨重。
经过国军数日猛攻，日军前后伤亡数千人，补给线也非常不稳定，完全陷入了颓势，开始转为完全的防御。
平型关重要军事据点被晋绥军反攻一个个占领，日军步步后撤，已经出现力不能支的溃败征兆。
双方就像两个筋疲力尽的拳击手，摇摇摆摆的勉强支撑，暂时谁也无法打倒对方。
力量上是国军占优，但由于缺乏有效攻坚武器，短时间内想吃掉日军不太可能。而日军更惨，从大的战略上来说日军已经被国军包围，处于绝对的劣势。
日军补给相当困难，且不谈一线补给运输艰难，就连后方蔚县等地的补给都需要千里迢迢从天津港运来，数量完全赶不上消耗。
最后日军仅靠空投勉强支持，一遇到阴雨天气，空投也就中断，日本兵就没有东西可吃。这样消耗下去自然是日军全军覆没，而国军后勤补给线畅通，又有当地老百姓的支持，是经得起消耗的。
当时日军盛传国军要求被包围的第5师团立即投降，还下达了最后通牒，这是日军历史上绝无仅有的，由此被日军内部引以为奇耻大辱，所以第5师团的名声在日军中也并不好。
阎锡山见第5师团已经力不能支，决定一鼓作气消灭这股日军。他下令调动最有战斗力的晋绥军傅作义35军参战，甚至亲自赶赴35军阵地鼓舞士气。
在阎锡山看来，如果平型关的第5师团被歼灭，那么单靠东条英机察哈尔派遣军的3个旅团根本不可能攻入忻口盆地，山西至少在这半年内就保住了。
35军军长兼任绥远省主席傅作义紧急调动还在雁门关的35军急行军开往平型关。35军下辖3个旅，装备是晋绥军中最好的，兵员素质也是第一流的，是晋绥军的王牌部队，是可以打硬仗的（平津战役时，35军被数倍解放军包围在新保安，该军坚守13天才全军覆没，军长郭景云开枪自杀成仁）。
如果35军杀入平型关，板垣征四郎的第5师团就必败无疑了。
而日军侦察机发现35军的调动以后，立即告知板垣征四郎。
板垣当场惊出一身冷汗，一时间手足无措。
此时他的第21旅团和东条英机的十川支队共2万大军陷入国军四面包围中，正面打不破平型关，后退的唯一一条公路也被切断大半，真是退不了也进不了。在这种情况下，不要说打，就算国军将他困住不打，日军也绝对无法坚持10天以上。
不过，这个日本陆军中最有能力将领之一的板垣征四郎，并不像一些日本将领一样动不动蛮干，此时他的头脑还是清醒的。他自知这样打下去难免全军覆没。日本军人最注重脸面，非到万不得已，绝对不会求援。
之前板垣已经被迫向东条英机求援，丢了一次脸，却得到了一个多联队的援军。
而此时局势比之前还要严重，已经到了万不得已的地步了。
板垣征四郎被迫厚着脸皮再次向东条英机求援。
难题就扔给了东条英机。这个后来的日本首相东条英机兴趣其实根本不在山西，而是在绥远。
因为他本来就是关东军参谋长，下属4个旅团也全部是从关东军抽调的部队，关东军唯一的敌人就是苏联。当时关东军所控制的伪满洲国除了南面以外，其他三面都在苏联军队的战略包围下，这样关东军寝食难安。
而中国的绥远，察哈尔同苏联控制的傀儡国外蒙古接壤，一旦占领这两个地方，也就稳固了伪满洲国的西部，从战略上将苏联红军和日军拉到了一条线。日军不再畏惧四面受敌，而苏军则需要防御察哈尔绥远（近内蒙古一部）长达上千公里的国境线，防止日军突袭外蒙古，切断西伯利亚铁路，从而切断苏联远东部分和欧洲部分的联系。
所以绥远是关东军志在必得的（当时察哈尔省大部已经沦陷）。
而此时由于晋绥军基本都进入山西作战，绥远仅有少量骑兵部队和地方民兵武装，非常空虚，正是日军千载难逢的良机。
所以东条英机在攻陷大同以后，本来是准备立即进入绥远作战的。
此时接到板垣征四郎的请求，他权衡轻重，总不能看着板垣第5师团在平型关被国军歼灭。东条也没有其他办法，被迫出动3个旅团放弃西进绥远转而南下，连续占领平鲁，朔州（攻占朔州时日军屠城，杀了3000多老百姓）等地，随后全军突袭平型关侧后的茹越口要地。
茹越口，位于山西省内长城的雁门关与平型关之间的结合部，战略地位十分重要，是整条阵地的薄弱点。由晋绥军杨澄源第34军第203旅梁鉴堂一部驻守。
本来雁门关一线有高达3个军的晋绥军和刘茂恩1个军拒险固守，日军别说是3个旅团，就算3个师团，短时间内也无法攻破。
而茹越口又是自古以来攻破雁门关平型关的重要通道，远的不说，仅仅10年前北伐期间，张学良的东北军就曾经强攻茹越口被击退。
这种兵家必争之地，一定要使用重兵配合坚固阵地死守。
让人没想到的是，晋绥军杨澄源军长，王靖国军长居然忽视如此重要地方的防御。由于东条英机3个旅团在长达20天时间内没有进攻雁门关防线，这几个军长错误判断他们可能向绥远进攻，所以也放松了防御。
就在这时，日军以第15混成旅团1个联队3000多人兵力在40门大炮的掩护下突袭茹越口，驻守此处的晋绥军梁鉴堂旅仓促应战，遭遇悲剧性失败。
由于准备不足，该旅没有占据茹越口后方极为适合防御的铁角岭，而是只是将部队放在地形并不险要的茹越口，准备守不住阵地再转移到铁角岭。
日军为了攻占茹越口，使用了40门重炮，其中包括一批超大口径迫击炮。这种迫击炮虽然射程不远，但威力非常大，对于晋绥军这种并没有永久性防御工事的部队有着极大的杀伤力。
结果该旅在日军猛烈进攻下，仅仅几小时内就遭遇极为惨重的伤亡，一线部队被日军炮火大量杀伤全线溃败，自发向后撤退，已经不可能转移到二线阵地铁角岭继续作战。
当时梁鉴堂旅长还是很英勇的，他见情况紧急，该旅大部溃散，却无力阻挡，于是率领仅剩的一个预备队第3营奋力迎堵。
在明知守不住的情况下，该营以自杀性的方式挡在日军进攻路线上，以300多人阻挡10倍数量的日军，最终全军覆没。
旅长梁鉴堂英勇的在阵地上坚持到最后一刻。
他的颈部先被日军重机枪射中一弹，血流不止，卫兵准备强行将他背下去治疗，却被他用力推开，在梁旅长拿着手枪，浑身浴血继续指挥部队防堵的时候，他的头部再次被日军重机枪击中，当场壮烈殉国。而该旅退到忻口时仅剩一个团兵力。
梁鉴堂旅长是河北蠡县人，殉国时年仅40岁。
