日军对山西腹地的第二次大规模进攻，一直等到来年农历二月份才发动，一方面因为晋北气候的原因，在数九天太过于寒冷，不利于大规模出兵，另一方面日军为这次进攻也进行了细致的准备。
虽然给中国军队留下比较充分的准备时间，而日军自己的准备之充分也远非忻口会战时可比。
这次的主力还是第五师团，一起进攻的还有二十六师团，一零八师团，另配属野战重炮第二旅团。以三个师团、一个重炮旅团的力量从北线进行进攻。
日军几乎是重建了第五师团，第五师团在上一次忻口会战后，人员只剩下了三千左右，这次在大同，日军大本营将第五师团损失的人员和装备全部补齐，并且为第五师团补充的都是在日本国内经过完备训练的士兵。
第五师团是日军的常设师团，之前与第二师团、第三师团、第六师团一起被认为是最精锐，战斗力最强的几个师团。日军大本营绝不接受一个常备师团被他们所轻视的中国军队打垮，尤其还是第五师团这种号称钢军的精锐部队。
第一次忻口会战失败后，日军在国内并未公布第五师团的情况，怕影响国民的信心，日军国内的媒体大多都是报喜不报忧，并且也没有撤销了板垣征四郎的第五师团师团长职务，而是让其继续在战场上戴罪立功。
这一方面是板垣的个人运作，他本人在日军高层具有极大的人脉和运作能力，想以此战来恢复他的名誉，从哪里失败的，就从哪里重新站起来。
另一方面也是日军的刻意安排，他们也认为第五师团的上一次失败是轻敌的原因，并且这种轻敌并不单纯是第五师团，日军从上到下都是这种情绪，当初第五师团执行的战略，也是得到华北派遣军乃至军部的同意的。
并且日军高层认为板垣能力是毋庸置疑的，他也是唯一在山西的山地作战过的日军高级将领，忻口会战失败后，最起码会谨慎很多，用生不如用熟，所以这次还派了他来指挥第五师团。
第五师团从大同出发一路向南，而二十六师团、一零八师团和野战重炮第二旅团从北平穿过涞源，经过平型关来到达忻口，此处以谷地为主，不需要翻越雁门关的大山，利于重炮的运输。