其實在朱邪赤心尚未離世之時，李克用的時代便已早早來臨。
李克用生於大中十年(856)九月。關於他早年的經歷，《舊五代史·唐武皇紀上》雲：“獻祖之討龐勳也，武皇年十五，從徵，摧鋒陷陣，出諸將之右，軍中目爲‘飛虎子’。賊平，獻祖授振武節度使，武皇爲雲中牙將。……及壯，爲雲中守捉使，事防禦使支謨。”
而在段文楚接任雲中防禦使後，李克用任沙陀三部落副兵馬使，戍守蔚州。
但是接下來，李克用在代北集團中的核心領導作用，在殺害段文楚事件中就已顯露出來。
段文楚事件發生的時間，史籍有鹹通十三年(872)、乾符元年(874)、三年（876）和五年(878)等多種記載。司馬光采納了乾符五年說。而關於段文楚被殺的原因，舊史多說是由於“代北荐饑，漕運不繼，文楚頗減軍士衣米，又用法稍峻，軍士怨怒”所致。日本學者堀敏一氏也認爲：“叛軍擁立李克用的事件，雖然存在着邊境這一特殊條件，其實不過是唐末常見的藩鎮兵士叛亂”。
誠然，這種由於節帥優賞不周而遭致部下殺害的事件在唐末層出不窮，實在是再平常不過了。不過，段文楚被殺事件發生的真正的和更爲深刻的原因，正如事件的策劃者和主謀之一李盡忠所言，是“今天下大亂，朝廷號令不復行於四方，此乃英雄立功名富貴之秋也……李振武（即李國昌）功大官高，名聞天下，其子勇冠諸軍，若輔以舉事，代北不足平也”，於是即乘“天下大亂，朝廷號令不復行於四方”之際，割據代北地區。
沙陀人雖然從元和四年進入代北後，就開始了對代北地區的經營，但由於唐廷中央的防範和限制，他們在代北地區並沒有建立起穩固的統治。朱邪執宜、赤心父子時而被任命爲蔚州刺史，時而又被任命爲朔州刺史，並且不時被徵發率部去屯天德、戍河西。朱邪赤心（李國昌）雖因鎮壓龐勳功而先後被任命爲雲中、鄜坊、振武節帥，但也只能是不在此即在彼，卻不能將整個代北據爲己有。史稱段文楚被殺之後，唐廷中央曾以“振武節度使李國昌爲大同節度使，以爲克用必無以拒也”。然而“李國昌欲父子並據兩鎮，得大同制書，毀之，殺監軍，不受代”，即說明李國昌父子欲將整個代北地區據爲己有的野心。而由此，即便對李克用一家心存好感的李曜，也不得不對這次事件的幕後策劃者和主謀到底是誰而產生懷疑。
舊史將殺害段文楚的策劃者和主謀歸結於沙陀兵馬使李盡忠和雲中牙將康君立等人，而李克用則反而是被動被推上臺的。但是，也有一些史籍記載此事爲李克用所爲，如《實錄》說：“乾符元年十二月，李克用殺大同防禦使段文楚，自稱防禦留後。《舊唐書·懿宗紀》鹹通十三年十二月亦載：“是月，李國昌小男克用殺雲中防禦使段文楚，據云州，自稱防禦留後。”李曜覺得，結合日後“李國昌欲父子並據兩鎮”的情況來看，很有可能李克用纔是策劃殺害段文楚事件的真正主謀，或者說至少也是主謀之一。因爲殺害唐朝地方藩帥，畢竟不是一件光彩的事，宋朝認定了後唐是正統，那麼作爲後唐建立者李存勖的父親，被追封武皇的李克用而言，後人對他有所避諱是很平常的事。
然而，唐廷中央儘管是有些“皇威不振”，卻也不能容忍李克用這種犯上作亂的行爲。於是唐廷任命盧簡方爲大同軍防禦使，令其諭李國昌：“克用暫勿主兵務，束手待朝廷除人。”當李國昌父子拒命後，便發動河東、幽州、昭義諸鎮及吐谷渾赫連鐸進討。廣明元年(880)六月，沙陀酋長李友金及薩葛都督米海萬、安慶都督史敬存等率沙陀三部落降唐。七月，李克用、李國昌父子先後連連大敗，部衆潰散，李氏父子、宗族及康君立等北入韃靼。唐廷以吐谷渾赫連鐸爲大同軍防禦使，白義成爲蔚州刺史，米海萬爲朔州刺史，振武軍帥位也落入吳師泰之手，不久又落入契苾璋之手。結果李克用不僅未能“旬日而定代北之地”，而且將朱邪執宜、朱邪赤心（李國昌）苦心經營數十年的代北地盤喪失殆盡。這在代北集團即沙陀的發展史上，是一次近乎毀滅性的打擊。
然而這對於李克用而言，更多的卻是一次磨礪，“寶劍鋒從磨礪出”的那個磨礪。復出再起的機會出現在廣明元年十二月。這時，黃巢起義軍攻佔長安，這個巨大的變化，爲沙陀勢力的復興提供了絕好的機會。中和元年(881)二月，李友金奉命率沙陀、薩葛、安慶三部落及吐谷渾諸部5000人入援京師。李友金行至絳州，絳州刺史沙陀人瞿稹謂監軍陳景思：“賊勢方盛，未可輕進，不若且還代北募兵。”遂又返回代北。半月間，募兵3萬，“皆北邊五部之衆”。李友金又對陳景思說：“興大衆，成大事，當威名素著，則可以伏人。今軍雖數萬，苟無善帥，進亦無功。吾兄李司徒父子，去歲獲罪於國家，今寄北部，雄武之略，爲衆所推。若驃騎急奏召還，代北之人一麾響應，則妖賊不足平也。”陳景思“然之，促奏行在”。
李友金爲李克用的“族父”，他從行至絳州又返回代北，從兵力不足“未可輕進”到“軍雖數萬，苟無善帥，進亦無功”，最後不得不請李克用父子出山，都是打着爲李唐王朝平“亂”的幌子。然而李友金的真正目的是什麼，卻很值得懷疑。王夫之說李友金在廣明元年六月降唐時，就是李克用“遣李友金僞背己以降而爲之內謀”，這恐怕未必是事實。不過，李友金希望沙陀勢力再度復興，這點是毫無疑問的，於是他利用爲朝廷平“亂”的機會，名正言順地招兵買馬，聚集力量，最後又名正言順地請李克用出山，因爲正如他本人所說，李克用父子“雄武之略，爲衆所推”，所以他把沙陀復興的希望寄託在李克用父子身上。而李克用也沒有辜負這位“族父”的期望，他不僅恢復了沙陀人在李國昌時期的鼎盛，而且建立了一個以沙陀人爲核心的強大的地方割據政權，爲五代沙陀三王朝的建立開闢了道路。
中和三年(883)五月，李克用因鎮壓黃巢之功被唐朝廷任命爲河東節度使。從此，李克用、李存勖父子以河東爲基地展開了他們的霸業，而代北集團也在河東形成了它的最後格局。
唐末五代時期的牙軍和作爲藩帥的各王朝的始祖們有着密切的關係，在創建王朝時，他們是集權力量的核心。李克用雖未及創建王朝，但卻是後唐王朝奠基人，直接導致了後唐王朝的建立，他的統治力量的核心無疑亦是牙軍。
李克用的牙軍，明確載入史冊的有義兒軍、決勝軍、鐵林軍、橫衝軍、突騎軍、親騎軍、突陣軍、五院軍、飛騎軍、雄威軍、廳直軍、萬勝黃頭軍、匡霸軍、飛騰軍、馬前直軍等等軍號。牙將有李克修、李克恭等46人。除此之外，象康延孝、張廷裕、何懷福、阿登啜（楊光遠父）、郭紹古、杜漢徽、安懷盛（安叔千父）、史敬思（史建瑭父）、臬捩雞（石敬瑭父）、杜堆金（杜重威父）、王思同、劉琠（劉知遠父）、周密、安福遷、安福順、安福慶兄弟以及安金俊、安休休等，亦都在李克用軍中任職，而且如史敬思、安金俊、安休休、安福遷兄弟等，都是有名的軍將。
若是一一細看，則可看得分明：李克用的這一統治集團，大體上是由三部分人組成，也就是代北人、河東人和其他外來人員。不過河東人雖然接受了李克用的統治，但在李克用麾下並不受重用，而外來人士更次之。真正最受李克用倚重的，正是代北人。
代北人作爲李克用“代北軍事集團”核心中的核心，又可分爲三部分：一是沙陀三部族；二是五部之衆；三是代北漢人。
先說沙陀三部族。中和元年二月，李友金率領5000人入援京師。《舊五代史·唐武皇紀上》雲：“黃巢犯長安，僖宗幸蜀，陳景思與李友金髮沙陀諸部五千騎南赴京師。”所謂“沙陀諸部”，即沙陀三部落。他們後來都跟隨李克用進入河東，成爲代北集團的核心力量。李克修、李克恭、李克寧三兄弟、楊光遠之父阿登啜、劉知遠之父劉琠以及郭紹古均爲沙陀人，康義誠爲代北三部落人，安懷盛爲沙陀三部落人，這些都是明確的。此外還有史敬思，《全唐文》雲：“大王父諱懷清，皇任安慶九府都督；王父諱敬思，皇任安慶九府都督；顯考諱建（此處史書缺六字）兼九府都督。”史匡翰爲史建瑭之子，故此“王父諱敬思”，即史建瑭之父。“安慶九府都督”，應該就是沙陀三部落之一的安慶部落都督，因此，史敬思及其子史建瑭，亦均爲沙陀三部落人。而史儼，從其姓氏及籍貫看，也很有可能與史敬思爲同族。至於史敬鎔，從其姓名看，也很有可能是史敬思的同族，至於其佔籍太原，應該與康思立一樣，是後來之事。
另一五代大名人、後唐明宗李嗣源，一般都認爲他是沙陀人，但在新、舊《五代史·唐明宗紀》中，或作“世本夷狄，無姓氏”；或作“代北人也，世事武皇，及其錫姓也，遂編於屬籍”。可見其族屬不是很明確，姑且將其列入沙陀人之列。李存孝（即安敬思）、康君立、安金全、安元信、康福、康思立、康延孝、安福遷，史籍或不曾明確記載其族屬，但從他們的姓氏及籍貫看，應該也都屬於代北胡人。比如康君立，史稱他“世爲邊豪”，康君立也每每自稱“吾等雖權系部衆”、“我等邊人”等等，可見其出身應爲胡人。又如安金全，新、舊《五代史·本傳》均作“代北人”，而在其子《安審琦傳》中，明確記載“其先沙陀部人也”。石敬瑭的族屬，後世學術界已多認爲系昭武九姓石國人，則其父臬捩雞亦爲昭武九姓胡人。
所謂“五部之衆”或“五部之人”，有時是指沙陀三部落和契苾、吐谷渾五部。史籍也多有將這五部相提並論的記載，如前引會昌二年，振武節度使劉沔“率吐渾、契苾、沙陀三部落等諸族萬人”討擊党項等等。但是在大多數場合，“五部之衆”或“五部之人”是一種泛稱，如在李克用殺害段文楚事件中，康君立謂李克用：“公家父子，素以威惠及五部”；天覆元年，李克用致朱全忠的信中，聲稱自己“勝則撫三晉之民，敗則徵五部之衆”；以及前引李友金在代州募兵3萬，“皆北邊五部之衆”等等，這裡的“五部”、“五部之衆”，就是對代北地區蕃胡部落的泛稱，所以李友金所募集的“北邊五部之衆”，《通鑑》之中則都稱作“北方雜胡”。“雜胡”亦即“雜虜”，胡三省對此解釋爲：“謂退渾、回鶻、韃靼、奚、室韋之屬”。故可將代北地區沙陀三部落以外的蕃胡部落如“退渾、回鶻、韃靼、奚、室韋之屬”統統稱作五部之衆。
最後便是代北漢人。由於代北是蕃漢雜居的地區，而許多蕃族往往冠以漢姓，因此辨別其是蕃是漢，實屬不易。將史冊中未著明爲蕃族和安姓、康姓以及存有疑問的白奉進以外的代北人均當作漢人看待，或許不至大錯。這樣的話，在李克用統治集團核心，代北漢人至少佔了三分之一以上。他們中既有李克用的義兒如李嗣本、李存進、李存璋，又有李克用最重要的謀士和腹心蓋寓，還有被視爲李克用“左右手”之一的李承嗣以及李克用、李存勖的重要將領周德威，這一切說明了代北漢人在代北集團中的重要地位。
須知代北地區自古以來就是多民族雜居區，“縱有編戶，亦染戎風”。所以沙陀人並不把代北漢人看作異己，而代北漢人也並不把沙陀人當作異類。於是在“英雄立功名富貴”利益的趨使下，代北的漢族豪強們也紛紛起來追隨李克用。在殺害段文楚、擁戴李克用事件中，除李盡忠、康君立、薛志勤等人外，程懷信、王行審、李存璋、蓋寓也是積極的參與者，從姓氏判斷，後者都應該是漢人。在此之後，他們除或在同唐朝廷的作戰中戰死（如程懷信）外，又繼續追隨李克用南下，鎮壓黃巢，進佔河東，成爲李克用父子爭霸的一支重要力量。
代北人在李克用統治集團中的核心地位，不僅表現在他們的人數衆多，而且也表現在他們擔當的職務重要，如李克用時期作爲最高軍事將領的蕃漢馬步都校（又稱蕃漢都指揮使、蕃漢馬步都知兵馬使），見於記載先後擔任此職的有四人，即李存信、李嗣昭、周德威、李克寧，其中有三人爲代北人；牙軍中重要將領如馬步都指揮使、馬步都虞侯，見於記載擔任此職的只有李嗣本和李存璋二人，均爲代北人。
在李克用一系列重大軍事行動中，往往也是代北人在起關鍵作用。如文德元年（888），李克用派康君立、李存孝、薛阿檀、史儼、安金俊、安休休等率大軍助李罕之奪河陽；大順元年（890）唐朝廷討伐河東，河東率軍抵抗的主要將領是李存孝、康君立、薛鐵山（即薛志勤）、李承嗣等；乾寧二年（895），李克用入援河中並進而左右唐室，主要將領爲李存貞、史儼、李存信、李存審、蓋寓、李罕之等；特別是天覆元年（901）、二年，朱全忠向李克用發起大規模進攻時，關鍵時刻，是李嗣昭、周德威、李存信、李存璋、李嗣源、李存審、李克寧等人率軍作戰並最終保住了太原城；李克用晚年與樑軍爭奪潞州，派出的將領有李嗣昭、李嗣弼、周德威、李嗣本、李存璋、史建瑭、安元信、李嗣源、安金全。上述諸將，除李罕之、李嗣昭、李存審以及身世不明的李存貞外，其餘均爲代北人。
既然代北人在李克用麾下如此受重用，李元審作爲潞州牙將這樣地位還算比較高的將領，自然再清楚不過，因而聽李曜一口代州口音，又自稱代北人，這就不得不令他有所顧忌。再加上李曜竟然如此“仗義疏財”，開口便許下了一柄在李元審看來可以當得上絕世神兵的寶劍，他哪裡還能不動心？就算李曜不是什麼並帥、潞帥的故人之子，光憑這出手之大方，這少年郎君的家世還能差了？前途還能差了？這種人，就要趁人家年少，不明事故之時早早結交纔是正理！
“既承壯武不棄，小弟自然樂意之至。”李曜也作出一臉欣喜之色。
李元審哈哈大笑：“正陽老弟，某字慎思，你便稱我表字便是。”
李曜心道：“從你老兄的歷史表現來看，這個字取得很名不副實……”當然，面上李曜卻是笑顏大展：“慎思兄……啊，既然你我二人如此投緣，不如來我帳中，喝上幾杯水酒，我帳中有河東葡萄酒四壇，正好一飲爲快！”
李元審眼前一亮：“正陽老弟果然爽快之人，既然如此，說不得只好恭敬不如從命了。”
李曜呵呵一笑，跳下馬來，伸手虛引：“慎思兄，請！”
李元審剛要跳下馬，他身側一人輕輕碰了他一下，輕咳道：“壯武，我等此次乃是行軍，飲酒……這個恐怕有些不便。”
李元審轉頭瞪了他一眼：“有甚不便？不過一點葡萄酒，難道某還能醉倒誤事不成？再說，正陽老弟如此熱情好客，我若推辭，豈是道理？你等便等在此處，休得呱噪，其餘人等，立刻回營，聽馮霸、安建和紀綱三人安置。”
勸他那人乃是李元審的親衛，見李元審不聽，他倒也不奇怪。畢竟能做到親衛這個份上，主將的性格愛好肯定了如指掌，他之所以這麼一說，也就是恪於規矩，提這麼一句，也算盡了職責，至於主將聽不聽，他又哪裡管得着了？只得立即將李元審的命令傳達下去，命下邊立即回營，自己則帶着其他幾名親衛守在外面。
李曜自然不會讓他們傻等在此，偷偷給盧三使了個眼色，盧三是老江湖，自然會給他們安排酒水菜食，雖然酒水已然不多了，也沒多少安排給他們，好歹還能解解酒蟲，至於菜食，總比他們軍中吃得要好些，那些乾酪的胡餅裡，多少還有點肉餡，不像大頭兵們平時吃的，能管個飽就不錯，這年頭，哪家大帥騷包到這個程度，還給這些丘八吃肉！
李元審跟着李曜來到他帳中，盧三早已飛快安排了人擺上酒食，不過由於正餐時間已過，此刻的熱飯菜那是沒有了，好在滷羊肉還能來得及切兩碗，再每人食案上擺一罈河東葡萄酒，看起來倒也不寒磣。要說有什麼缺憾，那就是沒有夜光杯，只能拿幾個行商北地常用的薄鐵碗湊數，看起來差些雅緻罷了。
李曜當年是大國企裡頭供銷處處長，陪客什麼的那是再擅長不過了，雖然唐朝的待客之道跟後世在方式、習慣上差別較大，但是逢人說人話，見鬼講鬼話這一條倒是通用的。
幾番恭維之下，李元審那一罈子酒基本上已經搞定得七七八八，他也沒工夫注意到李曜一直到現在也才喝了一碗半，還覺得李曜這人真是豪爽大氣，太對他這等武人脾胃，說到興頭上，連盔甲都解了脫下來。
觥籌交錯許久，李元審正在李曜的照顧下喝得興致勃勃，忽然外間一陣喧譁，李曜面色微微一變，還沒問出聲，外面已經傳來先前那親衛的聲音：“壯武！壯武！大事不妙，俺們大營出了亂子，一羣弟兄們逃了出來，說馮霸鼓動士卒，要殺回潞州去也！”