李克用，原姓朱邪，沙陀族人，因受吐蕃族侵袭，从陇右(今甘肃)东迁到灵州(今宁夏灵武)，祖父朱邪执宜担任过阴山府都督，后提升为代州行营招抚使，定居在应县一带。父朱邪赤心，担任过朔州刺史，唐朝咸通年间(860~874)，因镇压庞勋有功，被唐朝提升为金吾上将军，赐姓李，名国昌，其部落有一万多骑，骁勇善战，人称沙陀军。其子李克用“尤善骑射，能仰中双凫”(《新五代史·唐庄宗纪》)，因为他瞎了一只眼，绰号叫“独眼龙”。后来，唐朝任命他为云中防边督将，驻兵蔚州。
　　唐僖宗乾符五年(878)，由于朝政腐败，各地农民揭竿而起。当时，代北发生饥荒，云州(今大同）防御使段文楚乘机削减军粮、军衣，引起士兵的不满。段文楚的部下军校康君立、薛铁山、程怀信、王行审、李存璋等在一起密谋举事，共推李国昌父子为首领。李克用早有野心，见时机成熟，立即从蔚州起兵，哗变的军队有一万余人，赶到云州城外后，驻兵斗鸡台(在新荣得胜口）。城内军民闻讯后杀死段文楚，迎接李克用入城。之后，众人罗列了段文楚的许多罪状，上奏皇帝，要求李克用担任大同军防御使留后。唐朝哪能容忍这种叛逆行径，于是征集各路兵马讨伐李克用。结果，唐军连吃败仗，李克用的兵势逐渐强盛。此后，大同便落入沙陀人李国昌 父子手中，成为沙陀人与吐谷浑族赫连铎争夺的中心。
　　当时，黄巢领导的农民军声势浩大，震撼了唐朝的统治，为了集中力量对付起义军，唐朝迫于形势，改变了对李克用的态度，任命其为大同军节度使。李克用父子抓紧时间，利用唐朝忙于镇压农民起义的时机，不断扩充势力，巩固地盘。是年冬季，李国昌出兵进攻党项族。这时，吐谷浑族赫连铎也想争夺地盘，乘李国昌出兵之机，攻占了李国昌的老营振武，沙陀族全被吐谷浑族俘虏。李克用见事态危急，急忙到定边军(今陕西省西北部）迎接李国昌回云州。云州守将见李克用父子势孤力单，也关闭城门，不让进城。李克用带领少数人马转战蔚州、朔州等地，得到三千多人马，屯兵新城(黄花梁一带)，李国昌退保蔚州。赫连铎又率兵把新城围住，昼夜攻打，形势相当危急。正在这时，李国昌从蔚州带领援兵赶到，于是内外夹击，赫连铎腹背受敌，只得撤兵。这一仗，使李克用的军队又振作起来。唐朝见赫连铎势力强大，又任赫连铎为大同军节度使，另派李钧为代北招讨使，想消灭李克用的势力。结果，赫连铎和唐军又吃了几次败仗，李克用不但没被消灭，反而地盘越来越大，北据蔚州、朔州，南面发展到忻、代、岚、石，直到太谷。
唐僖宗广明元年(880)唐朝任命李琢为招讨使，联合幽州的李可举、云州的赫连铎再次出兵，大举进攻沙陀族。双方力量悬殊，李克用父子兵败蔚州，投奔鞑靼族。
　　僖宗中和二年(882)农历八月，黄巢领导的农民军攻陷了京城长安，为全力镇压农民军，唐朝又二次起用李克用父子，任李克用为雁门节度使。八月，李克用率领沙陀族人马从鞑靼族回到代州，十月，率沙陀军和鞑靼军共三万五千多骑兵南下，向长安进军。由于李克用镇压农民军功劳最大，被唐朝提升为河东节度使，李克用的势力又强盛起来。为了恢复地盘，唐昭宗大顺二年(891)农历三月，李克用又挥师北上，进攻云州，占领了东城(今怀仁西安堡)，赫连铎向幽州求援，幽州统帅李匡威带兵三万前来援助，在云州城下与李克用的军队展开厮杀，结果幽州军大败而逃，云州城被李克用再次占领。