汉武帝元狩二年（前121年），霍去病远征河西，击败匈奴，开辟了河西四郡：武威、酒泉、张掖、敦煌。
元封五年（前106年），分天下为十三州，各置一刺史，史称“十三部刺史”。在今甘肃省置凉州刺史部，凉州之名自此始，意为“地处西方，常寒凉也”。
凉州的辖区包括陇西、天水、安定、北地、酒泉、张掖、敦煌、武威、金城、西海10郡，治在陇县（今陕西省陇县），辖域约为今甘肃、宁夏、青海三省区湟水流域，陕西省定边、吴旗、凤县、略阳等县和内蒙古自治区额济纳旗等地。
公元四世纪末叶，凉州地区上演了一幕又一幕霸主争夺的惨烈大戏。386年，据说是汉朝皇后吕雉后人的吕光占领凉州，建立后凉，蒙逊家族成员多人被委以重任，蒙逊本人则成为吕光的侍卫近臣。其实，吕光是氐族人。
397年，吕光派出自己的儿子吕纂进攻立国于今天兰州地区，由陇西鲜卑人建立的西秦。结果，后凉军队大败。吕光没有怪自己儿子打仗不行，反而怪和吕纂一起去打仗的将军沮渠罗仇无能，此人正是蒙逊的伯父。
吕光竟然杀了罗仇！
伯父被杀，蒙逊有了起兵的理由，他借口为借口埋葬伯父，脱离了藩笼，聚众万余，杀吕光临松护军，屯聚金山(今甘肃山丹西南)，反叛后凉。
蒙逊的堂兄沮渠男成当时是晋昌太守，晋昌是今天的甘肃玉门西北，他也起兵造反，杀了后凉酒泉太守垒澄，攻下张掖。
造反的主力是沮渠家族，但是在当时的凉州地区，他们不是威望最高的，他们推举建康太守、汉人段业为盟主。看到建康这个名字，大家可能会想到南京了吧？
为何在西北会有一个“建康”呢？这就是南北朝时期的“侨郡州县”，用这个名字，以寄托情怀而已，就像台湾设置福建省一样。
段业自称凉州牧，对抗后凉，这就是北凉政权的前身。
沮渠蒙逊是个有野心的人，他不会甘心屈居于段业之下的！野心家是不会在意亲人的鲜血的！沮渠蒙逊，竟然先是污蔑堂兄男成谋反，在段业面前诬告男成：“男成欲谋叛，许以取假日作逆。若求祭兰门山，臣言验矣。”
