朱德批准了林彪的作戰方案，並命令林彪馬上趕回115師駐地，着手佈置伏擊圈。林彪回到駐地之後，爲了確保伏擊戰的萬無一失，馬上召開了軍事會議。在會上林彪再次向師裡的幹部們，傳達了八路軍總部的命令。聶榮臻副師長提議，組織師裡的團級以上的幹部，去實地勘察一下地形，確保此次伏擊戰不會發生任何意外的情況。
第二天早上，天空灰濛濛的一片，籠罩着晉北的大地。滾滾的河水夾着一條灰白色的沙帶，像一條長蛇蜿蜒在峽谷中。臨近平型關的百崖臺一帶，汾河的支流穿過了狹窄的峭壁和懸崖。沿着河邊修建的公路，就是林彪爲第4師團選定的墓地。115師的軍官們仔細的勘察着這裡的地形，尋找着最佳的伏擊陣地。這時一位師裡的參謀說道：“首長真是好眼光啊，到哪去找這麼好的打伏擊的地形啊。”另一名參謀插話道：“你說這小鬼子會走這裡嗎？”這時115師的參謀長周昆說道：“咱們師長選的地方會有錯嗎！師長向來都是料事如神的，鬼子這回肯定會走這裡的。”林彪聽了他們的話，生氣的說道：“少拍馬屁，多注意觀察地形！”副師長聶榮臻瞪了那個參謀一眼，不滿意的問道：“你來說說，這條公路向東延伸到什麼地方？”作戰參謀趕緊回答道：“一直延伸到靈邱縣東河南鎮。”聶榮臻點了點頭，然後繼續問道：“中間這一段，大概有多長？”作戰參謀滿臉大汗的回答道：“有10裡左右，最窄的地方只有幾米寬，兩邊都是懸崖，是極其理想的伏擊戰場。”聶榮臻轉過身去，對林彪說道：“師長，我們就把這個天然的大棺材，送給板垣徵四郎的第四師團吧！”林彪放下望遠鏡，然後對作戰參謀命令道：“我命令！今天上午第343旅和344旅必須準時進入百崖臺，天黑之前必須佈置完伏擊陣地！師部的獨立團負責擔任阻擊日軍援兵的任務。”作戰參謀記錄下命令後，又向林彪複述了一便。林彪接過參謀遞過來的作戰命令看了一下，然後在命令上籤上了自己的名字。把命令交還給參謀後，林彪對身邊的聶榮臻說道：“這仗是咱們115師打，可這是咱們八路軍出師後的第一戰。怎麼打敗小鬼子？要樹立信心，敢打必勝。”參謀長周昆急忙問道：“要是晉綏軍不配合我們，我們115師就有可能陷入被合圍的境地了！”聽了周昆的話，聶榮臻也不免流露出了擔憂的神色，可是林彪卻信心滿滿的說道：“我們希望得到友軍的配合，但我們決不依賴他們。沒有他們的配合，這個仗我們也打定了。”
9月25日上午7時，隨着三菱卡車的轟鳴聲，日軍在塵土飛揚的公路盡頭出現了，幾十輛汽車滿載着日軍前線急需的物資走在了公路的中央，兩邊各有一隊日軍騎兵護衛着車隊。那一副盛氣凌人的樣子，早已不把中國軍隊放在眼裡了。驕傲的日軍輜重部隊居然連尖兵也不派，就這樣大搖大擺的，一副如入無人之境的狂妄派頭，就像行進在自家花園裡一樣，全然沒有任何的危險感覺。
“啪！啪！”兩顆紅色的信號彈升上了天空，這時候日軍的指揮官才發現中了埋伏，慌忙間趕緊組織部隊進行抵抗。可是早已恭候多時的八路軍將士們，那裡還會給日軍從容佈置的時間。就在信號彈升空的時候，整個山谷就已經沸騰了，機槍、步槍、手榴彈、迫擊炮一起發出了怒吼。日軍的整個車隊頓時就陷入了混亂當中，沒來得及下車的日軍士兵被打得人仰馬翻，打頭的汽車中彈起火，整個車隊像一條被打斷脊樑的長蛇癱在了公路上。日軍在經過短暫的混亂之後，在軍官們的帶領下，拿出了武士道精神負隅頑抗，拒不交槍投降。隨着陣陣的衝鋒號響起，八路軍戰士勇猛的向日軍發起了衝鋒，在幾百米的路段上，把日軍的車隊分割成了數段。一時之間，峽谷之中是刀光閃閃殺聲震天。
日軍的飛機緊急趕來支援，可是他們的飛行員在空中發現，戰場之上中日兩軍早已攪在了一起，根本就沒辦法實施空中支援。日軍的飛機在戰場上盤旋了一圈，無奈的晃動了幾下翅膀，灰溜溜的飛了回去。日軍的地面指揮官接受了這個令人無奈的結局，他拔出了天皇御賜的軍刀，大喊道：“大日本帝國的勇士們，爲天皇陛下盡忠的時候到來了，我將帶領你們爲捍衛大日本武士的榮譽而戰！”說完他就帶頭向八路軍衝去，其他的日軍士兵趕緊跟着他們的長官向八路軍發起了衝鋒。這一仗一直持續到了中午才見分曉，直到戰鬥結束的時候，八路軍的官兵們沒有抓到任何一個俘虜，近千日軍全部戰死。此戰八路軍115師也付出了巨大的傷亡，他們在戰前都低估了日軍武士道精神的作用，沒想到日軍居然會拒不投降，真的是極其的頑固。115師迅速的打掃了戰場，帶着豐厚的戰利品離開了戰場。在八路軍撤退後不久，日軍的增援部隊才趕到了這裡，他們被115師獨立團阻擊了整整三個小時，直到八路軍115師獨立團主動撤退後，他們纔來到了這段峽谷裡。
正當日軍如入無人之境，**的時候，想不到在平型關受到八路軍突如其來的打擊。平型關戰鬥是抗戰以來，中國軍隊在戰場上第一次完全主動的，損失最小的，但戰果確是最大的。八路軍在平型關上發動的伏擊戰，大大的打擊了日軍的銷帳氣焰，振奮了我抗日將士的士氣，鼓舞了全國人民抗戰到底的信心。自盧溝橋抗戰開始，在華北戰場的國民黨軍隊節節敗退，從來沒有能夠組織一次像樣子的戰鬥，平型關大捷，把日軍不可戰勝的神話給打破了，樹立了一個以落後戰勝先進的先例，大大激發了抗日將士的愛國鬥志，爲全國的抗日軍隊樹立了榜樣。
板垣徵四郎在得到輜重隊全體玉碎的消息後，感到了頗爲的震驚。他對第4師團的參謀長西溫利村說道：“沒想到裝備低劣的八路軍會有這麼大的戰鬥力，實在是沒想到啊！”參謀長西溫利村點頭說道：“這支由共產黨指揮的軍隊，必將會成爲我們大日本皇軍的勁敵的。我們應該向大本營發出警告，提醒其他的皇軍部隊，不要輕視這支裝備低劣的支那軍隊。”板垣徵四郎非常贊同的點了點頭，然後他對部下們說道：“我們在平型關下已經耗費了大量的時間，如今有多了一個難啃的硬骨頭，我們速戰速決的想法就要落空了。”參謀長西溫利村急忙向板垣徵四郎問道：“師團長閣下，難道我們就止步不前了嗎？”板垣徵四郎笑了笑，他接着說道：“我們當然不會止步不前，相反，我們還要大踏步的前進。”聽了板垣徵四郎的話後，連同參謀長西溫利村在內，大家都用驚詫的目光看着板垣那帶棱角的光頭。板垣徵四郎環視了一下衆將，然後他拿起指揮棒來到了地圖前，指着一個叫做茹越口的地方說道：“這裡是中央軍15軍與晉綏軍34軍的結合部，這裡的守軍不多，而且也沒有修築什麼堅固的工事。”板垣對着部下們笑了笑，把指揮棒先向雁門關一劃，然後迅速抽回，指到茹越口，神秘的說道：“恩？要快！要堅決！你們懂嗎？”衆將這才如夢方醒，對板垣師團長佩服得五體投地，齊聲說道：“高！實在是高啊！”
第二天上午，第4師團全軍轉向東南，直撲雁門山與恆山的接合部茹越口，以一日一夜的急行軍，於9月28日早晨佔領了茹越口，由於晉綏軍部抵抗不力，導致日軍在29日下午，又攻佔了繁持縣城，形成了對雁門關主陣地後方的威脅。閻錫山慌了手腳，顧不得組織在雁北的有生力量來夾擊敵人，下令全線撤退。雁門關天險，就這樣白白的送給了日軍。閻錫山放棄了雁門關、平型關，把大批的軍隊向五臺山、雲中山、蘆芽山一帶轉移，集中主力於忻縣忻口之間，組織忻口會戰，決心保衛太原。二戰區副司令長官衛立煌也奉閻錫山的命令，率領第14集團軍在忻口建立防禦陣地，協助晉綏軍來保衛太原城的北大門。由第14集團軍爲主力組成的中央兵團，負責守衛菜家家崗、靈山、南懷化、陽明堡一線的陣地；以第18集團軍爲主力組成左翼兵團，負責守衛五臺山一線的陣地；由晉綏軍的楊愛源部爲主力組成右翼兵團，負責守衛黑峪村到陽方口一線的陣地。晉綏軍傅作義部爲總預備隊，在定襄、忻縣一帶策應各方。至此，閻錫山在忻口方向上佈置了28萬大軍，他再次向山西民衆宣佈，這次他一定可以擋住日軍的進攻，絕對不會讓古城太原陷入日軍之手。