东晋隆安元年(397年)，割据河西的后凉王吕光以西秦王乞伏乾归反复无常举兵讨伐，战争中，吕光弟吕延与西秦王遭遇战死，全军大败。对此，吕光听信谗言，以败军之罪处死了尚书沮渠罗仇和三河太守沮渠麴粥。 罗仇、麴粥是同胞兄弟，为张掖卢水胡人，其先世为匈奴左沮渠部帅，遂以官为氏。罗仇、麴粥被吕光杀害后，其侄子沮渠蒙逊为报杀害伯父之仇，与诸部落结盟起兵，首克后凉临松郡(今民乐南古城)，屯据金山(今民乐老君山)。兄沮渠男成听到蒙逊起兵，也聚数千人屯扎乐涫(今酒泉下河清一带)进攻建康郡(今高台骆驼城)，并推举建康郡太守段业为大都督、龙骧大将军、凉州牧、建康公，改年号为“神玺”，以张掖为国都，史称“北凉”。沮渠男成被段业任命为辅国将军。此时，沮渠蒙逊因与吕光部交战中暂时失利而率众投归己割据称雄的段业。段业委以其镇西将军。隆安三年(399年)二月，段业即凉王位，改元“天玺”，以沮渠蒙逊为尚书左丞、梁中庸为右丞。段业在后凉时先后任吕光的著作郎、尚书，博涉经史，本有些文才，但他胸襟狭疑，政治平庸，又好迷信，喜听谗言，终难成大事。隆安五年(401年)四月，段业忌惮沮渠蒙逊的武勇谋略，采取疏远的办法，免去其张掖太守之职，由门下侍郎马权取代。对卢水胡与异族将领进行排斥的结果，导致了蒙逊不满而再次起兵。蒙逊先用计除掉马权，又施计使段业错杀其兄。深负众望的辅国将军沮渠男成，然后又利用这个错案进行鼓动，群臣愤泣。此时，蒙逊至氐池(今民乐)迅速聚兵万余。北凉镇军将军臧莫孩率部投蒙逊，羌、胡也起兵拥戴。蒙逊适时率军直达张掖，置段业于众叛亲离之境地。段业求蒙逊惜他一命，在万众一片怒斥声中，段业命丧黄泉。处治段业后，梁中庸等推举沮渠蒙逊就任凉州牧、张掖公，改元永安，后改称凉王。
北凉初建，处在后凉、南凉、西凉四面强邻压境之中，形势险恶。为了巩固政权，沮渠蒙逊重用汉族人士治国，并在此基础上整顿内政。首务是扭转因争战连年而造成的农田失理及粮食等物资匮乏的情况，实行轻徭薄赋，令民“专功南亩”的政策。同时，放宽刑罚，赈恤灾荒，检查失政，严督官司吏，劝课农桑，以期“明设科条务尽地利”。永安二年(402年)姑臧遭饥荒，蒙逊一次送粮万斛，解救饥民。其牧业也有很大发展。其次是聚贤纳士，凡是有治国用兵才能的，不拘其民族与身世，均予擢任重用，创造了“文武咸悦、百姓欢乐、政通人和”的政治局面。在用人中不因小过害贤，不因降将而不用。即使敌国降将如杨统、张穆、焦郎、文支等也参掌枢要专镇一方。另外，蒙逊纪纲严明，对卢水胡豪强，有蠹国害民的严惩不殆。元兴二年(403年)八月，镇守临松郡的中田护军亲信、临松太守孔笃为非作歹，欺压百姓，民愤极大，两人虽为蒙逊伯父，也不予宽贷，先予严责后勒令自杀。
蒙逊执政时，提倡儒学。对“凉之旧臣”有才望者，“咸礼而用之”。敦煌人阚骃博通经传，聪明过人，注王朗《易传》，撰《十三州志》，行于世。沮渠蒙逊很器重他，拜秘书、考课郎中，给文史30人，点校经籍，刊定诸子三千余卷，加奉车都尉。郭璃的学生敦煌人刘昞，曾在西凉李嵩时为儒林祭酒，从事郎中，著《略记》《凉书》《敦煌实录》《方言》等一百多卷行于世。东晋元熙二年(420年)，北凉灭西凉，沮渠蒙逊又拜其为秘书郎，专管注记，在京城建造陆沉观，供其居之，“学生数百，月致羊酒”。到沮渠牧犍时，尊刘昞为国师。敦煌人宋繇，后凉吕光时举秀才，任郎中，后投奔北凉段业，因段业“无远略”，又西奔西凉李暠，沮渠蒙逊下西凉后，拜宋繇为北凉尚书吏部郎中，委以重任。除上述人物，还有张湛、索敝、阴兴、宗钦、程骏、程弘等一大批著名学者，云集张掖，都给予殊荣，使他们得以其长。
由于沮渠蒙逊采取了上述举措，使北凉在经济、政治、文化诸方面都比河西同时期的后凉、西凉、南凉有显著进步，国力也比较强盛。永安三年(403年)以后，北凉开始将国策逐渐转向对外进取，扼制西凉不敢向东争地。到永安十一年(411年)，蒙逊发兵三万出西郡(今山丹东南)于显美(今永昌东)穷泉击溃南凉主力，逼迫南凉主秃发褥檀撤往乐都(今西宁东)，从此囊括了姑臧在内的枹罕(今临夏市)以西至酒泉以东地域。永安十二年，北凉移都姑臧，蒙逊即河西王位。414年西秦灭南凉，接着蒙逊对西秦宣战，从西秦手中夺回河湟郡，才算罢休。玄始九年(420年)十月，蒙逊完成了灭西凉的战略，西域36国皆遣使朝贡。承玄元年(428年)，蒙逊夺得西秦的枹罕、西平郡(今西宁)两郡，又占领河南、湟水地区。到公元430年前，完成了整个河西走廊的统一，疆土东接金城(兰州)，西包敦煌，势力所及达于葱岭。
沮渠蒙逊不仅是一位历史人物，同时对河西文化还有着不可磨灭的贡献，特别是在普及佛学中起了重大作用。玄始中(412年—425年)，蒙逊请天竺(今印度)高僧昙无谶到姑臧传授佛学和译经，先后与河西沙门惠嵩、道朗等合作，译出《大般涅架经》36卷，《六等大集经》29卷，共14部。蒙逊执政期间还先后开凿了天梯山石窟、文殊山石窟、马蹄寺石窟部分洞窟和金塔寺石窟、以及敦煌莫高窟第272、275等石窟，成为河西文化的瑰宝。
南朝宋元嘉十年(433年)，沮渠蒙逊卒，年66岁，儿子牧犍即河西王位。六年后北凉被北魏灭掉，北魏接受姑臧城市户口二十余万，仓库珍宝不可胜计。从此可以看出北凉政治安定，经济繁荣，文化发达之一斑。
