1937年8月22日，八路军走出陕北，东渡黄河，进入山西。陕西夏县祁家河乡七泉村的村民，杨圣清后来回忆：“陕西国共两党合作组织了牺盟会，牺盟会就到了村里边，首先演抗日剧，如《放下你的鞭子》再一个就是教唱歌。如《五月的鲜花》有《义勇军进行曲》，小孩子也就跟着唱。后来我们模仿他们，自己也组织在村里边演剧。人们的思想很快活跃起来了。村里边组织了青救会、妇救会、儿童团等各种抗日组织。”
“山西王”阎锡山对八路军进入山西的心态是复杂的，阎早年毕业于日本陆军大学，后参加“辛亥革命”长期占据山西，在他的苦心经营下，山西当时社会稳定，经济繁荣，他深得人心。阎锡山形容他与蒋介石、中共和日本人的关系是在三个鸡蛋上跳舞，踩破哪个都不行。
八路军东渡黄河前，毛泽东曾派129师副师长徐向前随周恩来先行去谈判。阎锡山很重乡情。山西有句俗话“说得五台话，就有洋刀挎”徐向前的老家永安村与阎锡山的河边村仅一河之隔。徐向前在回忆录中记述：“阎锡山正在部署‘大同会战’见我们到来，满面春风，热烈欢迎，他对周恩来半开玩笑说。周公来山西，也真会选人才呀，把我们五台同乡是我的学生徐向前带来与我会见谈判了，可不要带徐向前来挖我的墙角啊。”
徐向前与周恩来与阎锡山就“联共”和“守土抗战”达成共识，解决了八路军入晋后的作战地域，军饷与装备补充等事宜。
1937年9月19日，时逢中秋佳节，山西突降大雪，雁门关、宁武关及平型关一带，白茫茫一片，民间普传“三关戴孝，乃不祥之兆”果然，日军在攻占大同，浑源后，分两路扑向雁门关和平型关，“太原会战”由此展开。
“太原会战”当时事关中国抗战全局，如日军拿下山西，南可进攻中华与华南日军会合，西可长驱直入西北、西南，威胁中国抗战后方。日军调最精锐之第五师团入晋，师团长板垣征四郎曾是阎锡山的同学。
时阎锡山所部包围八路军在内，有三个集团军，他采取了正面堵截的战略。八路军总指挥朱德，对此有不同意见，他认为，正面防守是守不住的。
八路军初上前线，就领略了日军地空联合作战的威风，115师独立团团长杨成武回忆：“独立团分乘五十多辆卡车，从圆平出发，向大营镇急进，过了代县之后，扑入眼帘的是一片山河破碎，溃兵如潮，百姓离乱的凄惨景象。六架日本军用飞机，分为两批，低低地擦着树梢飞过，喷出一阵弹雨，然后朝太原方向飞去。”
朱德不愿参加阎锡山的正面防御，将三个师的八路军向日军侧后运动，准备打击日军的补给线。
